Эксперты предупреждают, что скрытый ИИ может привести к новой «экономике намерений»
Инструменты диалогового искусственного интеллекта (ИИ) вскоре могут «скрыто влиять» на принятие решений пользователями в новом коммерческом направлении, называемом «экономикой намерений», предупреждают исследователи Кембриджского университета в статье, опубликованной в понедельник.
Исследование утверждает, что потенциально «прибыльный, но тревожный» рынок, возникающий для «цифровых сигналов намерения», может в ближайшем будущем повлиять на все от покупки фильма билеты на голосование за политических кандидатов.
Наше растущее знакомство с чат-ботами, цифровыми преподавателями и другими так называемыми » «антропоморфные» агенты искусственного интеллекта помогают реализовать этот новый набор «убеждающих технологий», добавил он.
Это будет увидеть, как ИИ объединяет знания наши онлайн-привычки с растущей способностью узнавать пользователя, предугадывать его или ее желания и создавать «новые уровни доверия и понимания», отметили два соавтора статьи.
Оставленное без контроля, это может привести к «социальным манипуляциям в промышленных масштабах», утверждают в своем докладе пара из Кембриджского Центра будущего интеллекта Леверхалм (LCFI). статья, опубликованная в Harvard Data Science Review.
Он характеризует то, как этот развивающийся сектор, получивший название «экономика намерения», будет определять внимание пользователей и стили общения, а также соединять их моделям поведения и выборам, которые они делают.
«Инструменты ИИ уже разрабатываются для выявления и вывода собирать, записывать, понимать, прогнозировать и, в конечном итоге, манипулировать и превращать в товар человеческие планы и цели», — сказал соавтор Якуб Чаудхари.
Новый ИИ будет опираться на так называемые большие языковые модели – или LLM – чтобы ориентироваться на темп пользователя, политику, словарный запас, возраст, пол, онлайн-историю и даже предпочтения пользователя в отношении лести и заискивания, согласно данным исследование.
Это будет связано с другими новыми технологиями искусственного интеллекта, которые претендуют на достижение определенной цели, например продажа похода в кино, или направляйте разговоры на определенные платформы, рекламодателей, предприятия и даже политические организации.
Соавтор Джонни Пенн предупредил: «Если не регулировать экономику намерений, она будет рассматривать ваши мотивы как новую валюту».
«Это будет золотая лихорадка для тех, кто нацеливается, направляет и продает человеческие намерения», — добавил он.
«Мы должны начать рассматривать вероятное влияние, которое такой рынок окажет на человеческие устремления, включая свободные и честные выборы, свободную прессу и справедливую рыночной конкуренции, прежде чем мы станем жертвами ее непредвиденных последствий».
Пенн отметил, что осведомленность общественности о проблеме является «ключом к обеспечению того, чтобы мы не идите по неверному пути».
© Agence France-Presse
