«Крестный отец ИИ» из Google ушел, чтобы предупредить об опасностях технологии

В понедельник американские СМИ сообщили, что ученый-компьютерщик, которого часто называют «крестным отцом искусственного интеллекта», уволился с работы в Google, чтобы рассказать об опасностях этой технологии.

Джеффри Хинтон, создатель технологии, лежащей в основе систем искусственного интеллекта, сообщил Нью-Йорк Таймс, что достижения в этой области представляют «серьезный риск для общества и человечества».

«Посмотрите, как это было пять лет назад и как обстоят дела сейчас», — цитируется он в статье, опубликованной в понедельник.

«Возьмите разницу и распространите ее вперед. Это страшно».

Хинтон сказал, что конкуренция между технологическими гигантами подталкивает компании к выпуску новых технологий искусственного интеллекта с опасной скоростью, рискуя рабочими местами и распространяя дезинформацию.

«Трудно понять, как можно предотвратить использование этих технологий злоумышленниками в своих целях. плохие вещи», — сказал он Times.

В 2022 году Google и OpenAI — стартап, создавший популярный чат-бот с искусственным интеллектом ChatGPT, — начали создавать системы, использующие гораздо большие объемы данных. чем раньше.

Хинтон сказал Times, что, по его мнению, эти системы в некотором роде затмевают человеческий интеллект из-за объема данных, которые они анализируют.

«Возможно, то, что происходит в этих системах, на самом деле намного лучше, чем то, что происходит в мозге», — сказал он газете.

Хотя ИИ использовался для поддержки людей-работников, быстрое распространение чат-боты, такие как ChatGPT, могут поставить рабочие места под угрозу.

ИИ «отнимает рутинную работу», но «может отнять больше», сказал он Times.

Ученый также предупредил о возможном распространении дезинформации, создаваемой искусственным интеллектом, заявив Times, что обычный человек «больше не сможет знать, что является правдой».

Хинтон уведомил Google о своей отставке в прошлом месяце, сообщает Times.

Джефф Дин, ведущий научный сотрудник Google AI, поблагодарил Хинтона в заявлении для американских СМИ.

«Будучи одной из первых компаний, опубликовавших Принципы ИИ, мы по-прежнему привержены ответственному подходу к ИИ», — говорится в заявлении.

«Мы постоянно учимся понимать возникающие риски, а также внедряем инновации. смело.»

В марте технический миллиардер Илон Маск и ряд экспертов призвали приостановить разработку систем искусственного интеллекта, чтобы дать время убедиться в их безопасности.

Ан Открытое письмо, подписанное более чем 1000 человек, включая Маска и соучредителя Apple Стива Возняка, было вызвано выпуском GPT-4, гораздо более мощной версии технологии, используемой ChatGPT.

Хинтон так и сделал. не подписал это письмо в то время, но сказал Нью-Йорк Таймс, что ученые не должны «расширять это, пока они не поймут, могут ли они контролировать это».