ChatGPT может произвести революцию в Интернете, но его секреты беспокоят экспертов

ChatGPT — новейший и самый впечатляющий чат-бот с искусственным интеллектом. Он был выпущен две недели назад и всего за пять дней набрал миллион пользователей. Он используется так часто, что его серверы уже несколько раз выходили на полную мощность.

Компания, разработавшая его, OpenAI уже обсуждается как потенциальный убийца Google. Зачем искать что-то в поисковой системе, если ChatGPT может написать целый абзац, объясняющий ответ? (Есть даже расширение для Chrome, позволяющее делать и то, и другое одновременно.)

Но что, если мы никогда не узнаем, в чем секрет возможностей ChatGPT?

Чат-бот использует преимущество количество технических достижений, опубликованных в открытой научной литературе за последние пару десятилетий. Но любые уникальные для него нововведения являются секретными. OpenAI вполне может пытаться построить технический и деловой ров, чтобы не допустить других.

Что он может (и чего не может)

ChatGPT очень эффективен. Хотите хайку о чат-ботах? Конечно.

Чат-боты, о, как мудро

Бесконечная обработка

Ответы из пустоты.

Как про шутку про чат-ботов? Нет проблем.

Зачем чат-бот перешел дорогу?

Чтобы перейти на другую сторону – вашего экрана!

ChatGPT может делать много других трюков. Он может писать компьютерный код в соответствии с требованиями пользователя, составлять деловые письма или договоры аренды, составлять домашние задания и даже сдавать университетские экзамены.

Не менее важно то, чего ChatGPT не может. Например, он изо всех сил пытается отличить правду от лжи. Он также часто умеет убедительно лгать.

Какое морское млекопитающее самое быстрое?

Самое быстрое морское млекопитающее — парусник.

Парусник — не млекопитающее.

Вы правы, парусник не млекопитающее. Прошу прощения за ошибку. Самым быстрым морским млекопитающим является сапсан.

ChatGPT чем-то напоминает автозаполнение на вашем телефоне. Ваш телефон обучен словарю слов, поэтому он дополняет слова. ChatGPT обучен практически всему Интернету и поэтому может составлять целые предложения или даже целые абзацы.

Однако он не понимает, что говорит, а только то, какие слова, скорее всего, будут следовать дальше. .

Открыто только по названию

В прошлом достижения в области ИИ сопровождались рецензируемой литературой.

Например, в 2018 году, когда Команда Google Brain разработала нейронную сеть BERT, на которой сейчас основано большинство систем обработки естественного языка (и мы подозреваем, что ChatGPT тоже). Методы были опубликованы в рецензируемых научных статьях, а код был открыт.

А в 2021 году DeepMind AlphaFold 2, программное обеспечение для сворачивания белков, было названо Научным прорывом года. Программное обеспечение и его результаты находятся в открытом доступе, поэтому ученые во всем мире могут использовать их для развития биологии и медицины.

После выпуска ChatGPT у нас есть только короткая запись в блоге, описывающая, как это работает. Не было никакого намека на сопутствующую научную публикацию или на то, что код будет открытым.

Чтобы понять, почему ChatGPT может храниться в секрете, вам нужно немного узнать о компании, стоящей за ним.

OpenAI, пожалуй, одна из самых странных компаний, появившихся в Силиконовой долине. Он был создан как некоммерческая организация в 2015 году для продвижения и развития «дружественного» ИИ таким образом, чтобы «приносить пользу человечеству в целом». Илон Маск, Питер Тиль и другие ведущие технические деятели пообещали выделить 1 миллиард долларов США на достижение ее целей.

Их мнение заключалось в том, что мы не можем доверять коммерческим компаниям разработку все более мощного ИИ, соответствующего процветанию человечества. Поэтому ИИ должен был разрабатываться некоммерческой организацией и, как следует из названия, открытым способом.

В 2019 году OpenAI превратилась в коммерческую компанию с ограничениями (максимальный доход инвесторов ограничен в 100 раз больше их инвестиций) и получила от Microsoft инвестиции в размере 1 миллиарда долларов США, чтобы она могла масштабироваться и конкурировать с технологическими гигантами.

Похоже, деньги помешали первоначальным планам OpenAI относительно открытости.

Прибыль от пользователей

Кроме того, OpenAI, похоже, использует отзывы пользователей, чтобы отфильтровать поддельные ответы, которые галлюцинирует ChatGPT.

Согласно блогу, OpenAI изначально использовал обучение с подкреплением в ChatGPT для понижения рейтинга ложных и/или проблемных ответов с использованием дорогостоящего обучающего набора, созданного вручную.

Но сейчас ChatGPT, похоже, настраивается более чем миллионом пользователей. Я полагаю, что такая человеческая обратная связь будет чрезмерно дорогой, если ее получить каким-либо другим способом.

Сейчас мы сталкиваемся с перспективой значительного прогресса в области ИИ с использованием методов, не описанных в научной литературе, и наборов данных. ограничивается компанией, которая кажется открытой только по названию.

Что дальше?

В последнее десятилетие быстрое развитие ИИ во многом было связано с открытостью ученых и бизнеса одинаковый Все основные инструменты искусственного интеллекта, которые у нас есть, имеют открытый исходный код.

Но гонка за созданием более мощного искусственного интеллекта может закончиться. Если открытость в области ИИ сократится, в результате мы можем увидеть замедление прогресса в этой области. Мы также можем стать свидетелями появления новых монополий.

И если судить по истории, мы знаем, что отсутствие прозрачности является спусковым крючком для плохого поведения в технических сферах. Поэтому, продолжая хвалить (или критиковать) ChatGPT, мы не должны упускать из виду обстоятельства, при которых он пришел к нам.

Если мы не будем осторожны, то самое, что, кажется, отмечает золотой век искусственного интеллекта может фактически означать его конец.

Тоби Уолш, профессор ИИ Университета Нового Южного Уэльса, руководитель исследовательской группы Университета Нового Южного Уэльса в Сиднее

Эта статья переиздана из The Conversation под лицензией Creative Commons. Прочтите исходную статью.