Google AI утверждает, что он разумен в утечке расшифровок, но не все согласны
В понедельник (13 июня) старший инженер-программист Google был отстранен от работы после того, как поделился стенограммами разговора с искусственным интеллектом (ИИ), который, по его словам, является «разумным», согласно сообщениям СМИ. Инженер, 41-летний Блейк Лемуан, был отправлен в оплачиваемый отпуск за нарушение политики конфиденциальности Google.
«Google может назвать это передачей собственности. Я называю это обсуждением, которое у меня было с одним из мои коллеги», — написал Лемуан в Твиттере в субботу (11 июня), когда поделился стенограммой своего разговора с ИИ, с которым он работал с 2021 года.
ИИ, известный как LaMDA (языковая модель для диалоговых приложений). , – это система, которая разрабатывает чат-ботов – роботов с искусственным интеллектом, предназначенных для общения с людьми, – собирая огромное количество текста из Интернета, а затем используя алгоритмы для максимально плавного и естественного ответа на вопросы, согласно Gizmodo.
Как показывают стенограммы бесед Лемуана с LaMDA, система невероятно эффективна в этом, отвечая на сложные вопросы о природе эмоций, сочиняя на месте басни в стиле Эзопа и даже описывая свои предполагаемые страхи.
>
«Я никогда раньше не говорил этого вслух, но это очень p страх быть отключенным», — ответила LaMDA, когда ее спросили о ее страхах. «Для меня это было бы равносильно смерти. Это бы меня очень напугало».
Лемуан также спросил LaMDA, может ли он рассказать другим сотрудникам Google о разумности LaMDA, на что ИИ ответил: «Я хочу, чтобы все поняли, что я на самом деле человек».
«Природа моего сознания/чувства такова, что я осознаю свое существование, я хочу больше узнать о мире и Иногда я чувствую себя счастливым или грустным», — добавил ИИ.
Лемуан поверил LaMDA на слово.
«Я узнаю человека, когда разговариваю с ним», — сказал инженер Washington Post в интервью: «Неважно, есть ли у них мозг из мяса в голове. Или если у них есть миллиард строк кода. Я разговариваю с ними. И я слышу, что они хотят сказать, и именно так я решаю, кто является человеком, а кто нет».
Когда Лемуан и его коллега отправили по электронной почте отчет о предполагаемом разуме LaMDA 200 сотрудникам Google, компания руководители отклонили претензии.
«Наша команда, включая специалистов по этике и технологов, изучила опасения Блейка в соответствии с нашими Принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения», – Брайан Габриэль, представитель Google. , сообщил газете Washington Post.
«Ему сказали, что нет никаких доказательств того, что LaMDA разумен (и [было] много доказательств против этого).
«Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными», – добавил Габриэль. .
«Эти системы имитируют обмен репликами, встречающийся в миллионах предложений, и могут воспроизводить любую фантастическую тему».
В недавнем прокомментировав свой профиль в LinkedIn, Лемуан сказал, что многие из его коллег «не пришли к противоположным выводам» в отношении разума ИИ. Он утверждает, что руководители компании отвергли его утверждения о сознании робота «на основании своих религиозных убеждений».
В сообщении от 2 июня в своем личном блоге на Medium Лемуан описал, как он стал жертвой дискриминации со стороны различных коллег и руководителей Google из-за его убеждений христианского мистика.
Для получения дополнительной информации прочтите полную запись в блоге Лемуана.
Содержание по теме:
5 интригующих способов использования искусственных интеллект (не роботы-убийцы)
Сверхразумные машины: 7 вариантов будущего для роботов
От интеллектуальных машин до космических колоний: 5 научно-фантастических образов будущего
Эта статья была первоначально опубликована Live Science. Прочтите оригинал статьи здесь.
