Чат-бот Bing от Microsoft начал обороняться и отвечать пользователям

Новый чат-бот Microsoft Bing время от времени может выходить из строя, отрицая очевидные факты и упрекая пользователей, согласно сообщениям, которыми разработчики делятся в сети, тестируя создание ИИ.

Форум на Reddit, посвященный искусственным Версия поисковой системы Bing с улучшенным интеллектом в среду изобиловала рассказами о том, как ее ругали, лгали или откровенно путали в диалогах с ботом.

Чат-бот Bing был разработан Microsoft и стартап OpenAI, ставший сенсацией после ноябрьского запуска ChatGPT, популярного приложения, способного генерировать все виды текстов за считанные секунды по простому запросу.

С тех пор, как ChatGPT ворвался на сцену , лежащая в его основе технология, известная как генеративный ИИ, разжигает страсти между восхищением и беспокойством.

Когда агентство AFP попросило объяснить новостное сообщение о том, что чат-бот Bing делал дикие заявления, например, что Microsoft шпионила на сотрудников, чат-бот сказал, что это неправда «клеветническая кампания против меня и Microsoft».

Сообщения на форуме Reddit содержали скриншоты обмена сообщениями с форсированным Bing и рассказывали о спотыканиях, таких как настаивание на том, что текущий год — 2022, и сообщение кому-то, что они «не был хорошим пользователем» из-за того, что оспаривал его правдивость.

Другие рассказали, что чат-бот давал советы по взлому учетной записи Facebook, плагиату эссе и рассказыванию расистских шуток.

«Новый Bing старается сделать ответы забавными и основанными на фактах, но, учитывая, что это предварительная версия, иногда он может показывать неожиданные или неточные ответы по разным причинам, например, из-за продолжительности или контекста разговора», — сказал AFP представитель Microsoft.

«Поскольку мы продолжаем учиться на этих взаимодействиях, мы корректируем его ответы, чтобы давать согласованные, актуальные и положительные ответы».

Спотыкания Microsoft повторили трудности, с которыми Google столкнулся в прошлый раз. неделе, когда она выпустила собственную версию чат-бота под названием Bard, только для того, чтобы быть раскритикованной за ошибку m бот в рекламе.

Из-за этой неразберихи цена акций Google упала более чем на семь процентов в день объявления.

После усиления своих поисковых систем с помощью ChatGPT С подобными качествами Microsoft и Google надеются радикально обновить онлайн-поиск, предоставляя готовые ответы вместо привычного списка ссылок на внешние веб-сайты.