RW Space

Джеффри Хинтон, один из так называемых «крестных отцов» искусственного интеллекта, в среду призвал правительства вмешаться и сделать так, чтобы машины не взяли под контроль общество.

Хинтон попал в заголовки газет в мае. когда он объявил, что уходит после десяти лет работы в Google, чтобы более свободно говорить об опасностях ИИ, вскоре после выпуска ChatGPT захватил воображение всего мира.

Уважаемый ученый в области ИИ, который работает в Университете Торонто, выступал перед переполненной аудиторией на технологической конференции Collision в канадском городе.​

В конференции приняли участие более 30 000 основателей стартапов, инвесторов и работников технологического сектора, большинство из них хотят научиться оседлать волну ИИ и не слышать уроков о его опасностях или призывов к вмешательству со стороны правительства.​

«Прежде чем ИИ станет умнее нас, я думаю, что людей, разрабатывающих его, следует поощрять. нужно приложить много усилий, чтобы понять, как он может попытаться отобрать контроль, — сказал Хинтон.

«Сейчас 99 очень умных людей пытаются улучшить ИИ, и один очень умный человек пытается понять, как остановить его, и, возможно, вы хотите быть более сбалансированным», — сказал он.

Хинтон предупредил, что к рискам, связанным с ИИ, следует относиться серьезно.

«Я думаю, важно, чтобы люди понимали, что это не научная фантастика, это не просто нагнетание страха», — настаивал он. «Это реальный риск, о котором мы должны думать, и нам нужно заранее выяснить, как с ним справиться».

«Я думаю, важно, чтобы люди понимали, что это не просто научная фантастика, это не просто нагнетание страха», — крестный отец #ИИ, @geoffreyhinton, говоря о риски ИИ в центре внимания #CollisionConf pic.twitter.com/u3iM0LO4hP

— Collision Conf (@CollisionHQ) 28 июня 2023 г.

Хинтон также выразил обеспокоенность тем, что ИИ усугубит неравенство, а огромный прирост производительности от его развертывания пойдет на пользу богатым, а не рабочим.​

«Богатство не достанется людям, выполняющим работу, оно собирается сделать богатых богаче, а не беднее, и это очень плохое общество», — добавил он.

​Он также указал на опасность «фальшивых новостей», создаваемых ботами в стиле ChatGPT, и сказал он надеялся, что контент, созданный искусственным интеллектом, можно будет помечать так же, как центральные банки помечают водяными знаками наличные деньги.

​«Очень важно попытаться, например, пометить все фальшивое как фальшивое. Сможем ли мы это сделать технически, я не знаю», — сказал он.

© Agence France-Presse