Быстрое развитие искусственного интеллекта (ИИ) принесло как пользу, так и риск.
Одной из тревожных тенденций является злоупотребление клонированием голоса. За считанные секунды мошенники могут клонировать голос и обманом заставить людей думать, что другу или члену семьи срочно нужны деньги.
Новостные агентства, в том числе CNN, предупреждают, что подобные виды мошенничества потенциально могут повлиять на миллионы людей.
Поскольку технологии облегчают преступникам вторжение в наше личное пространство, сохранять осторожность при их использовании сейчас важнее, чем когда-либо.
Развитие искусственного интеллекта создало возможности для генерации изображений, текста, голоса и машинного обучения.
Хотя искусственный интеллект предлагает множество преимуществ, он также предоставляет мошенникам новые методы эксплуатации людей с целью получения денег.
Возможно, вы слышали о «дипфейках», когда искусственный интеллект используется для создания фейковых изображений, видео и даже аудио, часто с участием знаменитостей или политиков.
Клонирование голоса, разновидность технологии дипфейков, создает цифровую копию голос человека, фиксируя его речевые модели, акцент и дыхание из коротких аудиообразцов.
После того, как речевой образец будет записан, генератор голоса с искусственным интеллектом может преобразовать вводимый текст в очень реалистичную речь, напоминающую голос целевого человека.
Благодаря развитию технологий клонирование голоса можно выполнить всего лишь с помощью трехсекундного аудиосэмпла.
Хотя простая фраза типа «привет, есть кто-нибудь?» может привести к мошенничеству с клонированием голоса, более длительный разговор помогает мошенникам уловить больше деталей голоса. Поэтому лучше всего делать звонки краткими, пока вы не будете уверены в личности звонящего.
Клонирование голоса имеет ценные применения в сфере развлечений и здравоохранения: оно позволяет артистам удаленно работать с голосом (даже посмертно) и помогает людям с речью. инвалидов.
Однако это вызывает серьезные проблемы конфиденциальности и безопасности, подчеркивая необходимость защитных мер.
Киберпреступники используют технологию клонирования голоса выдавать себя за знаменитостей, представителей власти или обычных людей в целях мошенничества.
Они создают срочность, завоевывают доверие жертвы и запрашивают деньги с помощью подарочных карт, банковских переводов или криптовалюты.
Процесс начинается со сбора средств образцы аудио из таких источников, как YouTube и TikTok.
Далее технология анализирует звук для создания новых записей.
После того, как голос клонирован, его часто можно использовать в мошеннических сообщениях. сопровождается подделкой идентификатора вызывающего абонента, чтобы выглядеть заслуживающим доверия.
Многие случаи мошенничества с клонированием голоса попали в заголовки газет.
Например, преступники клонировали голос директора компании в Объединенных Арабских Эмиратах, чтобы организовать ограбление на сумму 51 миллион австралийских долларов.
Бизнесмен из Мумбаи стал жертвой мошенничества с клонированием голоса, включающего фальшивый звонок из посольства Индии в Дубае.
Недавно в Австралии мошенники использовали голос клон премьер-министра Квинсленда Стивена Майлза, чтобы попытаться обманом заставить людей инвестировать в биткойны.
Подростки и дети также преследуются. В ходе мошенничества с похищением людей в США был клонирован голос подростка, а ее родителей манипулировали, чтобы они выполнили требования.
Недавнее исследование показывает, что 28 % взрослого населения Великобритании в прошлом году сталкивались с мошенничеством с клонированием голоса, при этом 46 % не подозревают о существовании этого типа мошенничества.
Это подчеркивает значительный пробел в знаниях, подвергая миллионы людей риску мошенничества.
В 2022 году почти 240 000 австралийцев сообщили, что стали жертвами мошенничества с клонированием голоса, что привело к финансовым потерям в размере 568 миллионов австралийских долларов.
Риски, связанные с клонированием голоса, требуют междисциплинарного реагирования.
Люди и организации могут принять ряд мер для защиты от неправильного использования технологии клонирования голоса.
Во-первых, кампании по информированию общественности и просвещение могут помочь защитить людей и организации и смягчить последствия такого рода мошенничества.
Сотрудничество государства и частного сектора может предоставить четкую информацию и варианты согласия на клонирование голоса.
Во-вторых, люди и организации должны стремиться использовать биометрическую безопасность с определением активности — новую технологию, которая может распознавать и проверять живой голос, а не фальшивый. А организациям, использующим распознавание голоса, следует рассмотреть возможность внедрения многофакторной аутентификации.
В-третьих, расширение возможностей расследований против клонирования голоса является еще одной важной мерой для правоохранительных органов.
Наконец, точные и обновленные правила для страны необходимы для управления соответствующими рисками.
Австралийские правоохранительные органы признают потенциальные преимущества ИИ.
Тем не менее, опасения по поводу «темной стороны» этой технологии вызвали призывы к исследованию преступное использование «искусственного интеллекта для выявления жертв».
Также звучат призывы к разработке возможных стратегий вмешательства, которые правоохранительные органы могли бы использовать для борьбы с этой проблемой.
Такие усилия должны быть связаны с общий Национальный план по борьбе с киберпреступностью, в котором основное внимание уделяется превентивным, реактивным и восстановительным стратегиям.
Этот национальный план предусматривает обязанность проявлять заботу о поставщиках услуг, что отражено в новом законодательстве австралийского правительства о защите населения и малого бизнеса. .
Законодательство направлено на новые обязательства по предотвращению, обнаружению, сообщению и пресечению мошенничества.
Это будет применяться к регулируемым организациям, таким как телекоммуникационные компании, банки и поставщики цифровых платформ. Цель состоит в том, чтобы защитить клиентов, предотвращая, обнаруживая, сообщая и пресекая кибермошенничество, связанное с обманом.
Поскольку киберпреступность обходится австралийской экономике примерно в 42 миллиарда австралийских долларов, общественность осведомленность и надежные меры защиты имеют важное значение.
Такие страны, как Австралия, осознают растущий риск. Эффективность мер против клонирования голоса и других видов мошенничества зависит от их адаптивности, стоимости, осуществимости и соответствия нормативным требованиям.
Все заинтересованные стороны — правительство, граждане и правоохранительные органы — должны сохранять бдительность и повышать осведомленность общественности, чтобы уменьшить риск стать жертвой.
Лео С.Ф. Лин, старший преподаватель по полицейским исследованиям, Университет Чарльза Стерта; Дуэйн Аслетт, старший преподаватель по полицейским исследованиям, Университет Чарльза Стерта; Геберев Тулу Меконнен, преподаватель Школы полицейских исследований Университета Чарльза Стерта, и Младен Зечевич, преподаватель Школы полицейских исследований Университета Чарльза Стерта
Эта статья перепечатана из журнала The Разговор под лицензией Creative Commons. Прочтите оригинал статьи.
Магнитное поле Земли резко изменилось чуть более 40 000 лет назад. Теперь мы можем воспринимать…
Марсианская парейдолия снова наносит удар. Снимок, сделанный марсоходом «Персеверанс» во время выполнения своих обязанностей, является…
В 1995 году исследователи Калифорнийского технологического института в Паломарской обсерватории института впервые наблюдали нечто, похожее…
Что касается звезд, то звезды М-класса – более известные как красные карлики – кажется, что…
Орбитальная испытательная машина X-37B (OTV) была окутана тайной с момента ее первого полета в 2011…
Google в понедельник подписала соглашение о получении электроэнергии из небольших ядерных реакторов для поддержки искусственного…