«Мама, мне срочно нужны деньги» клонированные голоса с искусственным интеллектом быстро распространяются, и они становятся невозможными для обнаружения

Новая форма технологического обмана, с разрушительным потенциалом, быстро распространяется во всем мире: поддельные вокальные вызовы, генерируемые искусственным интеллектом. Всего за несколько секунд регистрации голоса человека мошенники могут создавать убедительные цифровые ответы, которые могут обмануть даже самых бдительных слушателей. От родителей, напуганных до министров иностранных дел, никто не в безопасности до этой сложной формы эмоционального мошенничества.

В Соединенных Штатах в 2024 году было более 845 000 жалоб на попытки вокального мошенничества. Мошенники используют необходимый элемент: чувство чрезвычайной ситуации. Очевидный призыв от вашего ребенка, известный голос, который запрашивает немедленную помощь или деньги для «критической ситуации» — все это становится возможным, клонируя голос с помощью искусственного интеллекта.

От DeepFake Video до «DeepVoice» Audio: новый уровень манипуляций

Один из самых тревожных случаев произошел в США, где три министра иностранных дел, губернатор штата и член Конгресса получили голосовые сообщения через сигнал. Голоса, казалось, были из государственного секретаря США Марко Рубио, но позже было обнаружено, что они были подделками с ИИ.

Метод прост, но чрезвычайно эффективен: достаточно нескольких секунд с голосом человека-от интервью, подкаста или видео, размещенного в социальных сетях, чтобы создать цифровую версию голоса. Впоследствии ИИ может воспроизводить практически любую фразу с помощью интрикций и реалистичной марки, что делает дифференциацию практически невозможной без специализированных инструментов.

Эти вызовы или голосовые сообщения могут быть отправлены через зашифрованные приложения обмена сообщениями, что делает источник еще более сложным. И, что наиболее серьезно, во многих случаях жертвы не понимают, что их обманули до тех пор, пока они не переведут значительные суммы денег.

Как вы можете защитить себя: критические коды безопасности и мышления

Специалисты рекомендуют минимальный набор мер для предотвращения таких ситуаций. Прежде всего, вам не нужно реагировать импульсивно. Чувство чрезвычайной ситуации намеренно вызвано парализом рационального мышления. Если вы получили подозрительный звонок, даже от известного голоса, попробуйте подтвердить подлинность вызова через другой канал связи.

Простая, но эффективная хитрость заключается в том, чтобы установить код семьи семейной безопасности или с близкими людьми-слово или фраза, которую вы знаете только и о том, что нужно говорить в кризисной ситуации. Код не должен быть названием домашнего животного или датой рождения — выберите что -то невозможное, чтобы угадать неизвестным.

Кроме того, становится более важным скептически относиться к тому, что мы видим и слышим онлайн. По мере продвижения технологии наша способность различать настоящую подделку будет постоянно проверена.

Важный вопрос: почему эта технология разрешена?

Хотя технология вокального клонирования может иметь положительные приложения в таких областях, как развлечения, видеоигры или доступность для людей с ограниченными возможностями, остается вопрос: почему не более строгие регулируется инструмент, который можно использовать для манипулирования и обмана?

Когда вы становитесь все более и более изощренными, ясно, что мы должны не только защитить себя от технологий, но и полностью переосмыслить правила цифровой игры. Вскоре, «не все, что вы слышите, истинно» станет больше, чем пословица — это будет правилом выживания.