Клонирование голоса звучит как научная фантастика, но оно уже происходит
Быстрое развитие искусственного интеллекта (ИИ) принесло как пользу, так и риск.
Одной из тревожных тенденций является злоупотребление клонированием голоса. За считанные секунды мошенники могут клонировать голос и обманом заставить людей думать, что другу или члену семьи срочно нужны деньги.
Новостные агентства, в том числе CNN, предупреждают, что подобные виды мошенничества потенциально могут повлиять на миллионы людей.
Поскольку технологии облегчают преступникам вторжение в наше личное пространство, сохранять осторожность при их использовании сейчас важнее, чем когда-либо.
Что такое клонирование голоса?
Развитие искусственного интеллекта создало возможности для генерации изображений, текста, голоса и машинного обучения.
Хотя искусственный интеллект предлагает множество преимуществ, он также предоставляет мошенникам новые методы эксплуатации людей с целью получения денег.
Возможно, вы слышали о «дипфейках», когда искусственный интеллект используется для создания фейковых изображений, видео и даже аудио, часто с участием знаменитостей или политиков.
Клонирование голоса, разновидность технологии дипфейков, создает цифровую копию голос человека, фиксируя его речевые модели, акцент и дыхание из коротких аудиообразцов.
После того, как речевой образец будет записан, генератор голоса с искусственным интеллектом может преобразовать вводимый текст в очень реалистичную речь, напоминающую голос целевого человека.
Благодаря развитию технологий клонирование голоса можно выполнить всего лишь с помощью трехсекундного аудиосэмпла.
Хотя простая фраза типа «привет, есть кто-нибудь?» может привести к мошенничеству с клонированием голоса, более длительный разговор помогает мошенникам уловить больше деталей голоса. Поэтому лучше всего делать звонки краткими, пока вы не будете уверены в личности звонящего.
Клонирование голоса имеет ценные применения в сфере развлечений и здравоохранения: оно позволяет артистам удаленно работать с голосом (даже посмертно) и помогает людям с речью. инвалидов.
Однако это вызывает серьезные проблемы конфиденциальности и безопасности, подчеркивая необходимость защитных мер.
Как этим пользуются преступники
Киберпреступники используют технологию клонирования голоса выдавать себя за знаменитостей, представителей власти или обычных людей в целях мошенничества.
Они создают срочность, завоевывают доверие жертвы и запрашивают деньги с помощью подарочных карт, банковских переводов или криптовалюты.
Процесс начинается со сбора средств образцы аудио из таких источников, как YouTube и TikTok.
Далее технология анализирует звук для создания новых записей.
После того, как голос клонирован, его часто можно использовать в мошеннических сообщениях. сопровождается подделкой идентификатора вызывающего абонента, чтобы выглядеть заслуживающим доверия.
Многие случаи мошенничества с клонированием голоса попали в заголовки газет.
Например, преступники клонировали голос директора компании в Объединенных Арабских Эмиратах, чтобы организовать ограбление на сумму 51 миллион австралийских долларов.
Бизнесмен из Мумбаи стал жертвой мошенничества с клонированием голоса, включающего фальшивый звонок из посольства Индии в Дубае.
Недавно в Австралии мошенники использовали голос клон премьер-министра Квинсленда Стивена Майлза, чтобы попытаться обманом заставить людей инвестировать в биткойны.
Подростки и дети также преследуются. В ходе мошенничества с похищением людей в США был клонирован голос подростка, а ее родителей манипулировали, чтобы они выполнили требования.
Насколько это широко распространено? h2>
Недавнее исследование показывает, что 28 % взрослого населения Великобритании в прошлом году сталкивались с мошенничеством с клонированием голоса, при этом 46 % не подозревают о существовании этого типа мошенничества.
Это подчеркивает значительный пробел в знаниях, подвергая миллионы людей риску мошенничества.
В 2022 году почти 240 000 австралийцев сообщили, что стали жертвами мошенничества с клонированием голоса, что привело к финансовым потерям в размере 568 миллионов австралийских долларов.
Как люди и организации могут защита от этого
Риски, связанные с клонированием голоса, требуют междисциплинарного реагирования.
Люди и организации могут принять ряд мер для защиты от неправильного использования технологии клонирования голоса.
Во-первых, кампании по информированию общественности и просвещение могут помочь защитить людей и организации и смягчить последствия такого рода мошенничества.
Сотрудничество государства и частного сектора может предоставить четкую информацию и варианты согласия на клонирование голоса.
Во-вторых, люди и организации должны стремиться использовать биометрическую безопасность с определением активности — новую технологию, которая может распознавать и проверять живой голос, а не фальшивый. А организациям, использующим распознавание голоса, следует рассмотреть возможность внедрения многофакторной аутентификации.
В-третьих, расширение возможностей расследований против клонирования голоса является еще одной важной мерой для правоохранительных органов.
Наконец, точные и обновленные правила для страны необходимы для управления соответствующими рисками.
Австралийские правоохранительные органы признают потенциальные преимущества ИИ.
Тем не менее, опасения по поводу «темной стороны» этой технологии вызвали призывы к исследованию преступное использование «искусственного интеллекта для выявления жертв».
Также звучат призывы к разработке возможных стратегий вмешательства, которые правоохранительные органы могли бы использовать для борьбы с этой проблемой.
Такие усилия должны быть связаны с общий Национальный план по борьбе с киберпреступностью, в котором основное внимание уделяется превентивным, реактивным и восстановительным стратегиям.
Этот национальный план предусматривает обязанность проявлять заботу о поставщиках услуг, что отражено в новом законодательстве австралийского правительства о защите населения и малого бизнеса. .
Законодательство направлено на новые обязательства по предотвращению, обнаружению, сообщению и пресечению мошенничества.
Это будет применяться к регулируемым организациям, таким как телекоммуникационные компании, банки и поставщики цифровых платформ. Цель состоит в том, чтобы защитить клиентов, предотвращая, обнаруживая, сообщая и пресекая кибермошенничество, связанное с обманом.
Снижение риска
Поскольку киберпреступность обходится австралийской экономике примерно в 42 миллиарда австралийских долларов, общественность осведомленность и надежные меры защиты имеют важное значение.
Такие страны, как Австралия, осознают растущий риск. Эффективность мер против клонирования голоса и других видов мошенничества зависит от их адаптивности, стоимости, осуществимости и соответствия нормативным требованиям.
Все заинтересованные стороны — правительство, граждане и правоохранительные органы — должны сохранять бдительность и повышать осведомленность общественности, чтобы уменьшить риск стать жертвой.
Лео С.Ф. Лин, старший преподаватель по полицейским исследованиям, Университет Чарльза Стерта; Дуэйн Аслетт, старший преподаватель по полицейским исследованиям, Университет Чарльза Стерта; Геберев Тулу Меконнен, преподаватель Школы полицейских исследований Университета Чарльза Стерта, и Младен Зечевич, преподаватель Школы полицейских исследований Университета Чарльза Стерта
Эта статья перепечатана из журнала The Разговор под лицензией Creative Commons. Прочтите оригинал статьи.
