«Крестный отец ИИ» выпускает новые предупреждения о потенциальных рисках для общества
Джеффри Хинтон, один из так называемых «крестных отцов» искусственного интеллекта, в среду призвал правительства вмешаться и сделать так, чтобы машины не взяли под контроль общество.
Хинтон попал в заголовки газет в мае. когда он объявил, что уходит после десяти лет работы в Google, чтобы более свободно говорить об опасностях ИИ, вскоре после выпуска ChatGPT захватил воображение всего мира.
Уважаемый ученый в области ИИ, который работает в Университете Торонто, выступал перед переполненной аудиторией на технологической конференции Collision в канадском городе.
В конференции приняли участие более 30 000 основателей стартапов, инвесторов и работников технологического сектора, большинство из них хотят научиться оседлать волну ИИ и не слышать уроков о его опасностях или призывов к вмешательству со стороны правительства.
«Прежде чем ИИ станет умнее нас, я думаю, что людей, разрабатывающих его, следует поощрять. нужно приложить много усилий, чтобы понять, как он может попытаться отобрать контроль, — сказал Хинтон.
«Сейчас 99 очень умных людей пытаются улучшить ИИ, и один очень умный человек пытается понять, как остановить его, и, возможно, вы хотите быть более сбалансированным», — сказал он.
Хинтон предупредил, что к рискам, связанным с ИИ, следует относиться серьезно.
«Я думаю, важно, чтобы люди понимали, что это не научная фантастика, это не просто нагнетание страха», — настаивал он. «Это реальный риск, о котором мы должны думать, и нам нужно заранее выяснить, как с ним справиться».
«Я думаю, важно, чтобы люди понимали, что это не просто научная фантастика, это не просто нагнетание страха», — крестный отец #ИИ, @geoffreyhinton, говоря о риски ИИ в центре внимания #CollisionConf pic.twitter.com/u3iM0LO4hP
— Collision Conf (@CollisionHQ) 28 июня 2023 г.
Хинтон также выразил обеспокоенность тем, что ИИ усугубит неравенство, а огромный прирост производительности от его развертывания пойдет на пользу богатым, а не рабочим.
«Богатство не достанется людям, выполняющим работу, оно собирается сделать богатых богаче, а не беднее, и это очень плохое общество», — добавил он.
Он также указал на опасность «фальшивых новостей», создаваемых ботами в стиле ChatGPT, и сказал он надеялся, что контент, созданный искусственным интеллектом, можно будет помечать так же, как центральные банки помечают водяными знаками наличные деньги.
«Очень важно попытаться, например, пометить все фальшивое как фальшивое. Сможем ли мы это сделать технически, я не знаю», — сказал он.
© Agence France-Presse
