Крёстный отец ИИ бьёт тревогу о роботах-убийцах и грядущих конфликтах

Первопроходец в сфере искусственного интеллекта Джеффри Хинтон выразил серьёзную обеспокоенность по поводу его применения в военной отрасли. На фоне активного внедрения ИИ в вооружённые силы ведущими державами, от США до России, эксперт предупреждает о риске эскалации конфликтов и дестабилизации глобальной безопасности.

По мнению Хинтона, развитие автономного смертоносного оружия, или так называемых "роботов-убийц", может существенно снизить порог вхождения в войну для богатых стран. Устраняя фактор человеческих потерь, роботизированные армии делают военную агрессию более привлекательной с политической точки зрения. "Единственное, что сдерживает богатые страны от вторжения в бедные, — это то, что их граждане возвращаются в гробах, — сказал он. — Если у вас есть автономное смертоносное оружие, то вместо мёртвых людей вы будете получать мёртвых роботов. Это будет просто замечательно для военно-промышленного комплекса, потому что их замена обойдётся дорого».

Хинтон подчеркивает, что современные боевые действия претерпевают кардинальные изменения. Недорогие беспилотники способны уничтожать дорогостоящую технику, а пилотируемая авиация постепенно устаревает. Развитие ИИ в робототехнике стирает грань между сдерживанием от полномасштабной войны и ее началом.

Эксперт согласен с мнением Илона Маска о том, что будущее войн – за беспилотными системами. Он также акцентирует внимание на более широком спектре угроз, связанных с развитием ИИ. По мнению Хинтона, возможность появления сверхразума в ближайшие десятилетия несет экзистенциальный риск для человечества, так как машины могут стать неконтролируемыми.

Среди краткосрочных рисков Хинтон выделяет кибератаки нового поколения, создание опасных вирусов с помощью машинного обучения и распространение фейкового контента. Кроме того, он признает, что автоматизация может привести к масштабной потере рабочих мест и росту экономического неравенства.

Призывая к глобальному сотрудничеству в области регулирования ИИ, Хинтон проводит параллель с воспитанием опасного зверя. Только разумный подход и ответственное развитие технологий помогут избежать катастрофических последствий.