RW Space

Если вы выполните поиск по запросу «креветки Иисуса» на Facebook, вы можете встретить десятки изображений ракообразных, созданных искусственным интеллектом (ИИ), в различных формах переплетенных со стереотипным изображением Иисуса Христа.

Некоторые из них гипер -Реалистичные изображения собрали более 20 000 лайков и комментариев. Так что же здесь происходит?

У «теории мертвого Интернета» есть объяснение: искусственный интеллект и контент, созданный ботами, превзошли интернет, созданный людьми. Но откуда взялась эта идея и имеет ли она какое-либо обоснование в реальности?

Что такое мертвый теория Интернета?

Теория мертвого Интернета, по сути, утверждает, что деятельность и контент в Интернете, включая учетные записи в социальных сетях, преимущественно создаются и автоматизируются агентами искусственного интеллекта.

Эти агенты могут быстро создавайте публикации вместе с изображениями, сгенерированными искусственным интеллектом, предназначенными для увеличения вовлеченности (кликов, лайков, комментариев) на таких платформах, как Facebook, Instagram и TikTok. Что касается креветочного Иисуса, то, похоже, ИИ понял, что это новейшая смесь абсурда и религиозной иконографии, которая стала вирусной.

Но теория мертвого Интернета идет еще дальше. Многие учетные записи, использующие такой контент, также, судя по всему, управляются агентами искусственного интеллекта. Это создает порочный круг искусственного взаимодействия, не имеющего четкой программы и вообще не вовлекающего людей.

Безобидное фермерство вовлечение или изощренная пропаганда?

На первый взгляд, Мотивация для этих аккаунтов вызывать интерес может показаться очевидной: участие в социальных сетях приводит к доходам от рекламы. Если человек создает учетную запись, которая получает завышенную вовлеченность, он может получать долю доходов от рекламы от социальных сетей, таких как Meta.

Итак, ограничивается ли теория мертвого Интернета безобидным фармингом вовлеченности? Или, возможно, под поверхностью скрывается изощренная, хорошо финансируемая попытка поддержать автократические режимы, атаковать оппонентов и распространять пропаганду?

Хотя феномен Иисуса-креветки может показаться безобидным (хотя и странным), потенциально существует более долгосрочная Уловка под рукой.

По мере того, как число подписчиков этих аккаунтов, управляемых искусственным интеллектом, увеличивается (многие из них фальшивые, некоторые настоящие), большое количество подписчиков делает аккаунт легитимным для реальных пользователей. Это значит, что там создается армия аккаунтов. Аккаунты с большим количеством подписчиков, которые могут разместить те, кто предложит самую высокую цену.

Это критически важно, поскольку социальные сети в настоящее время являются основным источником новостей для многих пользователей по всему миру. В Австралии в прошлом году 46% молодых людей в возрасте от 18 до 24 лет назвали социальные сети основным источником новостей. Этот показатель вырос с 28 % в 2022 году, превысив традиционные средства массовой информации, такие как радио и телевидение.

Дезинформация, подпитываемая ботами

Уже есть убедительные доказательства того, что социальные сети манипулируются эти раздутые боты влияют на общественное мнение с помощью дезинформации – и это происходит уже много лет.

В 2018 году исследование проанализировало 14 миллионов твитов за десятимесячный период в 2016 и 2017 годах. В социальных сетях были обнаружены боты. активно участвовали в распространении статей из ненадежных источников. Аккаунты с большим количеством подписчиков узаконивали дезинформацию и дезинформацию, заставляя реальных пользователей верить, вовлекаться и делиться контентом, опубликованным ботами.

Такой подход к манипулированию социальными сетями был обнаружен после массовых расстрелов в Соединенные Штаты. В 2019 году исследование показало, что сообщения, созданные ботами в X (ранее Twitter), в значительной степени способствуют общественным дискуссиям, помогая усилить или исказить потенциальные повествования, связанные с экстремальными событиями.

Недавно было проведено несколько крупномасштабных Пророссийские кампании по дезинформации направлены на подрыв поддержки Украины и пропаганду пророссийских настроений.

Раскрытые активистами и журналистами, скоординированные усилия использовали ботов и искусственный интеллект для создания и распространения фейковой информации, охватив миллионы социальных сетей. пользователи СМИ.

Только на X кампания использовала более 10 000 учетных записей ботов для быстрой публикации десятков тысяч сообщений прокремлевского содержания, приписываемых американским и европейским знаменитостям, которые, по-видимому, поддерживают продолжающуюся войну против Украины.

Такой масштаб влияния значителен. В некоторых отчетах даже говорится, что почти половина всего интернет-трафика в 2022 году была создана ботами. Благодаря недавним достижениям в области генеративного искусственного интеллекта, таким как модели ChatGPT от OpenAI и Gemini от Google, качество фейкового контента будет только улучшаться.

Организации социальных сетей стремятся бороться с неправомерным использованием своих платформ. Примечательно, что Илон Маск исследовал вопрос о том, чтобы пользователи X платили за членство, чтобы остановить бот-фермы.

К сожалению, небольшая плата за доступ для записи для новых пользователей — единственный способ обуздать беспощадный натиск ботов.

Современный ИИ (и фермы троллей) с легкостью могут пройти проверку «вы бот?»

— Илон Маск (@elonmusk), 15 апреля 2024 г.

Гиганты социальных сетей способны удалять большое количество обнаруженной активности ботов, если захотят. (Плохие новости для нашего дружелюбного Иисуса-креветки.)

Помните о мертвом Интернете

Теория мертвого Интернета на самом деле не утверждает, что большая часть вашей личной информации взаимодействие в Интернете является фальшивкой.

Однако это интересная линза, через которую можно смотреть на Интернет. То, что Интернет больше не принадлежит людям и не принадлежит людям – в этом смысле Интернет, который мы знали и любили, «мертв».

Свобода создавать и делиться своими мыслями в Интернете и социальных сетях что сделало его таким мощным. Естественно, именно эту силу стремятся контролировать злоумышленники.

Теория мертвого Интернета напоминает о том, что нужно проявлять скептицизм и критически относиться к социальным сетям и другим веб-сайтам.

Любое взаимодействие, тенденция и особенно «общее настроение» вполне могут быть синтетическими. Создан, чтобы немного изменить ваше восприятие мира.

Джейк Рензелла, преподаватель, директор по исследованиям (компьютерные науки), UNSW в Сиднее и Влада Розова, научный сотрудник в области прикладных наук Машинное обучение, Мельбурнский университет

Эта статья перепечатана из The Conversation под лицензией Creative Commons. Прочтите оригинал статьи.