Персональные атаки и фишинг: как действуют мошенники в эпоху ИИ

Развитие генеративного искусственного интеллекта (ИИ) расширяет возможности пользователей в разных сферах — от работы с информацией до создания нового контента. Но те же технологии осваивают и злоумышленники. Написание убедительного текста, подделка голоса, изображения или видео требуют от аферистов меньше времени и специальных знаний, рассказали РИАМО в пресс-службе Центра биометрических технологий.

«Современные ИИ-модели могут создавать сообщения от имени банка, работодателя, маркетплейса или государственного ведомства и адаптировать их под обстоятельства конкретного человека. Синтез речи дает возможность имитировать голос родственника, коллеги или руководителя по фрагментам из социальных сетей, голосовых сообщений и публичных выступлений. Аналогично создаются изображения и видео, приписывающие человеку слова, которых он не говорил», — отметили в центре.

Особенно убедительными могут быть комбинированные сценарии. Например, сначала человеку пишет якобы знакомый сотрудник, затем приходит сообщение от «начальника», а после звонит «представитель службы безопасности». Но и качественный дипфейк остается элементом легенды, который помогает убедить человека, но не предоставляет доступа к банковскому счету или госсервису.

Социальная инженерия

По данным ЦБ РФ, самые крупные хищения у россиян в 2025 году были связаны со схемами, которые сочетали в себе методы социальной инженерии и фишинг. Злоумышленники обычно не пытаются напрямую преодолеть цифровую защиту, а влияют на пользователя: убеждают сказать код, подтвердить неизвестную операцию, предоставить удаленный доступ к гаджету или перевести деньги на якобы безопасный счет.

Генеративный ИИ помогает аферистам делать такое воздействие более точным и масштабируемым. Злоумышленник может быстро подготовить персонализированный сценарий, воспроизвести стиль общения знакомого человека, поддерживать продолжительный диалог и менять аргументы в зависимости от реакции собеседника. За счет этого привычные схемы становятся сложнее для распознавания: в одной атаке могут сочетаться сообщение, звонок, голосовая запись, поддельный документ и фишинговая страница.

Распространение дипфейков одновременно усиливает опасения вокруг биометрических сервисов. У россиян возникает вопрос, могут ли размещенные в Сети фото, видео или записи голоса использоваться для подтверждения личности. Здесь важно разделять два разных риска: воздействие на человека с помощью убедительной подделки и попытку пройти техническую проверку от его имени.

Почему важен реальный пользователь

Формулировки «кража лица» или «кража голоса» создают у людей ошибочное впечатление, как будто опубликованные в интернете фотографии, видео или записи речи позволяют воспользоваться биометрическим сервисом. Но самих по себе таких материалов недостаточно для подтверждения личности в защищенном контуре.

Системы идентификации и аутентификации сопоставляют текущие биометрические данные пользователя с образцом, сформированным при регистрации. Для этого используется ранее загруженный биометрический вектор или выполняется обращение напрямую в Единую биометрическую систему (ЕБС).

«Проверка живости» помогает определить, находится ли перед камерой или микрофоном реальный человек либо воспроизводится запись или цифровая подмена. Вопрос, на который должна ответить система, не «совпадают ли изображения», а «находится ли этот человек сейчас перед объективом».

Несколько уровней защиты

Надежность биометрических сервисов обеспечивается сочетанием нескольких защитных механизмов. После подтверждения личности пользователь добровольно регистрирует биометрические данные. Система выделяет индивидуальные признаки лица и голоса и преобразует их в набор числовых характеристик. В защищенном контуре используются не фото или записи как «пароль», а зашифрованные цифровые представления этих признаков.

Допзащиту обеспечивает анализ контекста проверки и совершаемой операции на стороне поставщиков услуг. Такие системы учитывают совокупность технических и поведенческих сигналов, чтобы выявлять нетипичные сценарии и признаки возможного мошенничества.

«Генеративный ИИ помогает мошенникам создавать более правдоподобные сообщения, — подделывать голос и изображение человека. Однако внешнего сходства недостаточно, чтобы пройти биометрическую идентификацию. Система проверяет личность в рамках специальной процедуры и анализирует совокупность параметров, а не только изображение лица или звучание голоса. Надежность этого подхода подтверждается практикой его массового применения», — добавили в центре.

Адаптация технологий защиты

Развитие ИИ меняет не только инструменты злоумышленников, но и подходы к защите. Системы безопасности постоянно дорабатываются с учетом новых способов создания поддельных изображений, видео и голосовых записей. Обновляются модели распознавания, совершенствуются технологии антидипфейка и «проверки живости», расширяется набор признаков, по которым можно выявить цифровую имитацию или нетипичный сценарий.

При этом биометрия в этой системе выступает одним из уровней защиты, а не единственным способом подтверждения личности. В сочетании с другими механизмами она усложняет попытку подмены пользователя и снижает вероятность того, что одного скомпрометированного элемента окажется достаточно для успешной атаки.

Подписывайтесь на канал РИАМО в МАКС.