Дипфейк: что это такое и как отличить подделку от оригинала

В чем суть дипфейк-технологий, как их используют преступники и как можно защититься от разводов с дипфейками, читайте в материале РИАМО.

Что такое deepfake и в чем суть дипфейк-технологий

Фото - © Freepik.com

В последние годы наблюдается рост числа атак с использованием дипфейков, особенно в финансовом секторе, что связано с развитием технологий и все большей доступностью инструментов для создания дипфейков.

Английское слово «deepfake» возникло из двух понятий: «deep learning» – «глубинное обучение нейросетей» – и «fake», то есть подделка. Дипфейковые видео создаются посредством переноса лица и мимики реального человека в новое видео с актером, в результате чего появляется качественная подделка. Такие технологии стали возможны в связи с развитием искусственного интеллекта. Пока что специалисты способны отличить дипфейк от настоящего видео, но в будущем это может стать невозможным или очень затруднительным.

Где чаще всего используются дипфейки и кто в зоне риска

Фото - © Анна Кривицкая / Фотобанк Лори

Эксперт по искусственному интеллекту Мирослав Радкевич рассказал, кто больше всего находится в зоне риска, и привел несколько примеров использования дипфейков.

1. Финансовые платформы и криптовалютные схемы

В сфере финансовых услуг участились случаи мошенничества с использованием дипфейков. Киберпреступники используют дипфейки для проведения транзакций и получения доступа к банковским счетам. Примерами могут служить атаки, в ходе которых мошенники использовали поддельные голосовые сообщения от руководителей компаний для перевода крупных сумм.

Также очень известный случай произошел в 2023 году, когда мошенники создали видео с изображением Илона Маска, где он якобы призывал людей инвестировать в фальшивую криптовалютную схему. Видео выглядело настолько убедительно, что многие пользователи были обмануты и потеряли свои деньги, отправляя платежи на счета, контролируемые мошенниками.

2. Социальные сети и знаменитости

Здесь дипфейки используются для распространения фальшивой информации и манипулирования общественным мнением.

«Одним из ярких примеров использования дипфейков в социальных сетях стали видео с актером Томом Крузом, которые стали вирусными на платформе TikTok в 2023 году. Эти видео создали настолько реалистичное изображение, что миллионы пользователей приняли их за настоящие. Суть этих атак заключалась в том, чтобы привлечь внимание и продемонстрировать возможности технологии, тем самым показав, насколько легко можно манипулировать восприятием общественности в социальных сетях», – рассказал Радкевич.

3. Мессенджеры

Дипфейки применяются для обмана пользователей, создавая видимость общения с друзьями или членами семьи. Например, было зафиксировано несколько случаев, когда злоумышленники создавали поддельные видео и аудиозаписи, прося о финансовой помощи.

«В мае 2023 года мошенники использовали дипфейки, чтобы обмануть менеджера по продукту в одной из компаний. Они подделали изображение и голос генерального директора, связавшись с сотрудником через WhatsApp. Атака включала не только фальшивые аудио- и видеоматериалы, но и манипуляции в текстовых сообщениях, чтобы убедить жертву перевести средства на счет злоумышленников. Сценарий этой атаки стал еще более правдоподобным, когда злоумышленники предложили перейти на видеозвонок якобы из-за плохого качества связи, а затем переключились обратно на текст для завершения мошенничества», – рассказал эксперт.

4. Политические атаки

В 2023 году дипфейки также использовались для политической дезинформации. Например, в сети распространилось поддельное видео, на котором президент Украины якобы призывает народ сложить оружие. Это видео было воспринято многими как реальное, и его распространение во время напряженных политических ситуаций вызвало серьезные последствия для общественного мнения и информационной безопасности, отмечает Радкевич.

Как распознать дипфейк

Фото - © Freepik.com

Распознать дипфейки бывает сложно, но есть несколько признаков, которые могут помочь.

1. Несоответствие движений лица и голоса

«Обратите внимание на синхронизацию губ и звуков, особенно на сложные слова и фразы. Если движение губ выглядит неестественно, скорее всего, это дипфейк», – говорит Радкевич.

2. Проблемы с морганием

Многие дипфейки имеют проблемы с реалистичным морганием – глаза выглядят неестественно или моргают слишком редко.

3. Неестественное освещение

Неправильное или неестественное освещение на лице, которое не соответствует фону или окружению, может также выдать подделку.

Как защититься от атак дипфейков

Фото - © Adobe Stock

Для защиты от атак на личном уровне следует:

• Использовать двухфакторную аутентификацию на всех своих аккаунтах.
• Установить системы распознавания лиц и программное обеспечение для обнаружения дипфейков.
• Не доверять сообщениям и видео, которые кажутся подозрительными или неожиданными, даже если они исходят от знакомых людей.

Какие дипфейки возможны в будущем с развитием технологий

Фото - © Freepik.com

В будущем можно ожидать развития более сложных атак, включая:

• Интерактивные дипфейки – это технологии, способные реагировать в режиме реального времени на действия человека, создавая иллюзию реального общения.
• Автоматизированные фальшивые новостные потоки. Создание и распространение фальшивых новостей с помощью дипфейков, которые будут настолько правдоподобны, что их будет трудно отличить от реальных событий.

Какие сценарии развода с использованием дипфейков будут популярны в 2025 году

Фото - © Freepik.com

«Дипфейки, вероятнее всего, будут еще более активно использоваться мошенниками в 2025 году и далее. Технологии дипфейков становятся все более совершенными и доступны широкой публике, что создает идеальную почву для злоупотребления», – считает Радкевич.

Эксперт назвал популярные сценарии разводов с дипфейками, которые также будут актуальны в 2025 году:

1. Фальшивые видеозвонки

Мошенники могут имитировать видео- и аудиозвонки от известных лиц, включая руководителей компаний, с целью получения доступа к конфиденциальной информации или переводов крупных сумм.

2. Фальшивые информационные кампании

Использование дипфейков в политических или экономических кампаниях для дискредитации конкурентов или создания фальшивых новостей.

3. Социальное манипулирование

Подделка изображений и видео для создания ложных ситуаций в социальных сетях с целью манипулирования общественным мнением.