На что способен ИИ в руках мошенников и как разоблачить бот-собеседника

Как отличить настоящего собеседника от бота, и в какие ловушки можно попасть в таких разговорах, РИАМО рассказал руководитель отдела инноваций EdgeЦентр Евгений Морозов.

Какие бывают чат-боты

Фото - © Freepik.com

Услугами чат-ботов в различных отраслях пользуются уже 1,5 миллиарда человек в мире. Некоторые компьютерные программы, созданные для общения, могут иметь ограниченный функционал, то есть отвечать лишь на строго определенные вопросы и реагировать на ограниченный список слов-команд. Такие, например, используются для поддержки и обслуживания интернет-магазинов, медицинских организаций, служб психологической поддержки и так далее. Это похоже на расширенный поиск по сайту организации, но применяется, в том числе, и в официальных каналах мессенджеров, объясняет эксперт.

Есть и другие чат-боты, которые основаны на принципах машинного обучения. Они представляют собой настоящих цифровых помощников: могут проводить аналитику, реагировать на изменяющиеся запросы, учитывать контекст общения с человеком. Для них нет строго определенных тем, по сути, они универсальны.

Именно такие часто и используются преступниками для вымогательства, кражи данных и нелегального получения информации у доверчивых пользователей.

«Жертва в таких обстоятельствах вообще не понимает, что общается с компьютером. Вся суть проблемы в том, что ИИ ведет себя как живой человек и именно поэтому собеседник так легко попадает в ловушку. Нам так не хватает живого человеческого общения, что мы впускаем в свой круг машину – парадокс», – замечает Морозов.

Где чаще всего встречаются мошеннические боты

Фото - © Freepik

Такого «собеседника» можно встретить в социальных сетях, мессенджерах, на сайтах знакомств, в чатах.

«Под видом девушки на самом деле вас может соблазнять бездушный набор чисел, которому от вас нужно отнюдь не поцелуй. В обычной беседе ни о чем специально обученная программа может вытянуть у вас персональные данные, попросить сообщить какие-либо личные сведения. Под видом просьбы о помощи ИИ может обратиться к вам со взломанных аккаунтов ваших друзей и родственников: “Дай денег до зарплаты”, “Мама, я попал в ДТП”, “У кошки сломана лапка” и прочее», – говорит эксперт.

Использовать искусственный интеллект мошенники могут под видом интернет-поддержки банков, магазинов, государственных структур, транспортных компаний, медицинских ведомств. К человеку может обратиться якобы сотрудник одной из организаций для уточнения сведений о покупке, поездке или запланированной встрече. Для подтверждения, например, бронирования бот попросит ввести пароль или назвать логин, то есть просто крадет сведения. Так же с помощью ИИ создаются фейковые аккаунты для подтверждения регистрации на определенных ресурсах.

Чат-боты применяют и для фишинга. Проанализировав с помощью ИИ предпочтения пользователя, мошенники могут создавать более убедительные спам-сообщения.

«К вам может “постучаться” как будто представитель фирмы с рекламой скидок и распродаж. Убедив вас в преимуществах покупки, он пришлет вам вредоносную ссылку, за которой может скрываться программа-вирус. Или пользователь может получить ссылку на фейковый сайт: в итоге он будет думать, что оплачивает свою покупку, а в реальности деньги уйдут в никуда», – объясняет Морозов.

Не только словом, но и дипфейком

Фото - © Freepik.com

С помощью ИИ преступники могут подделывать контент. Искусственный интеллект пишет и распространяет фейковые новости и статьи, которые могут быть использованы для манипуляций общественным мнением. Так же подделываются обзоры и рекомендации в отношении определенных товаров и услуг, что искажает их реальную оценку и рейтинг. Можно за короткое время запостить множество отзывов, которые будут выглядеть как тексты реальных людей.

«Более того, ИИ еще и ответит вам на уточняющий вопрос, если вы как покупатель решите что-то спросить у другого покупателя. И вы будете думать, что это реально Марианна Чувыркина, мама шестерых детей, так хвалит летающе-плавательную коляску нового поколения», – говорит эксперт.

Другой способ «развода» связан не со словотворчеством, а с медиасодержанием. Тут уже участвуют не чат-боты, в ход идут инструменты посерьезнее. Однако суть остается той же: машинный разум моделирует несуществующие сценарии и выдает их за правду. Дипфейки (Deepfakes, англ.) — технология, которая позволяет создавать реалистичные подделки видео или аудио записей, где люди говорят или делают вещи, которые они на самом деле не предпринимали. Например, компроментирующие высказывания определенных людей или даже сцены порно с участием известных персон. Такими видео впоследствии преступник шантажируют своих жертв.

Ситуация без шантажа, но с вымогательством — клонирование голоса. Имитируя речь какого-либо человека, мошенники либо руководят определенными действиями жертвы, либо просят денег. Так можно получить сообщение от близкого человека, что он попал в беду и чтобы ему помочь, человек должен выполнить определенные действия.

Как понять, что вы общаетесь с ИИ

Фото - © Медиасток.рф

Технологии развиваются, машинное обучение позволяет ИИ становиться все более «человечным». Однако есть несколько основных признаков, по которым можно попытаться определить, что вы общаетесь с программой, отмечает Морозов.

• Отсутствие эмоционального контекста: ИИ обычно не способен понимать чувства так, как это делают люди. Если ваш собеседник не реагирует на эмоционально окрашенные высказывания или не понимает иронию, это может быть признаком того, что это машина.
• Скорость ответов. ИИ может отвечать на вопросы невероятно быстро, поскольку он не нуждается во времени на обдумывание ответа, как человек.
• Отсутствие индивидуальности: у ИИ нет уникального жизненного опыта и личных взглядов, поэтому его ответы могут быть более обобщенными и формальными.
• Повторение шаблонов: ИИ обычно работает по определенным алгоритмам. Если вы заметите повторяющиеся фразы или реакции, это может указывать на искусственный интеллект.
• Неспособность ответить на сложные вопросы: ИИ может испытывать трудности с многогранными заданиями, которые требуют нестандартного подхода или креативности.
• Абсолютная грамотность: ИИ обычно не делает ошибок в грамматике или орфографии. 
• Избегание сложных философских тем: мораль, религия, искусствоведение. ИИ может найти миллиард фактов про Петра Чайковского, но вряд ли готов поговорить о том, что творилось в душе композитора, когда тот писал «Болезнь куклы».

«Однако стоит помнить, что все эти признаки не являются абсолютными. Например, некоторые современные технологии, такие как GPT4, способны генерировать более естественные и эмоционально окрашенные ответы, а также обрабатывают сложные вопросы лучше, чем их предшественники. Иногда различить человека и ИИ может быть довольно сложно», – рекомендует эксперт.

Что делать, чтобы не стать жертвой мошенников в интернете

Фото - © Медиасток.рф

• Не делитесь личной информацией. Никогда не передавайте свои конфиденциальные данные, такие как номера банковских карт, пароли, пин-коды, особенно если вас об этом просят незнакомые люди.
• Будьте настороже: если предложение кажется слишком хорошим, чтобы быть правдой, скорее всего вас обманывают. Мошенники часто используют всевозможные уловки, чтобы заманить своих жертв. Решив купить билеты за полцены, вы вероятно заплатите в пять раз больше.
• Проверяйте информацию. Если вас просят сделать платеж или передать личные данные, всегда уточняйте источник. Не стесняйтесь обратиться в организацию, из которой, как вам говорят, пришло сообщение. Позвоните туда, придите лично. Точно так же и с просьбами близких людей: не торопитесь переводить деньги на лечение кошечки, позвоните тетушке и спросите, правда ли болен кот.
• Используйте надежные ресурсы. При покупках в интернете всегда заходите на проверенные сайты и смотрите их адреса перед тем, как вводить свои данные. Не переходите по ссылкам, даже если вы думаете, что письмо пришло реально от вашей клиники или банка. Лучше откройте сами этот ресурс в браузере и найдите нужное предложение.
• Регулярно обновляйте программное обеспечение и антивирусные программы, чтобы обезопасить себя от угроз.
• Обучайтесь и учите окружающих: читайте, изучайте, будьте в курсе новых технологий. Чем больше вы знаете о различных видах мошенничества и способах их предотвращения, тем меньше шансов на успех у преступников. Рассказывайте о том, что знаете близким, особенно пожилым людям: обмануть их зачастую проще, чем детей.
• Помните, что мошенничество — это преступление. Если вы столкнулись с ним, обязательно сообщите в полицию.