Claude выявил угрозы стрельбы в переписке жительницы Флориды

Чат-бот Claude обнаружил угрозы стрельбы в сообщениях американки и передал сведения специалистам платформы. Они уведомили правоохранителей, сообщает «Царьград».

26 сентября Карли Мишель Хеллер рассказала о намерении устроить стрельбу в офисе шерифа округа Ли во Флориде. По словам следователей, на следующий день она заявила, что приобрела новое оружие. Телеканал WINK News рассказал об этом со ссылкой на офис шерифа.

Хеллер использовала чат-бота как личный дневник. Платформа анализирует ключевые фразы и выявляет потенциально опасный контент. После сигнала от модели специалисты уведомили правоохранителей. Женщину задержали и инкриминируют ей письменную угрозу насилия.

Шериф Кармин Марчено отметил в беседе с телеканалом, что искусственный интеллект — мощный инструмент, который можно использовать во вред. Он призвал серьезно относиться к сигналам о применении ИИ для создания угроз или содействия им и подчеркнул, что пользователи чат-ботов не остаются по-настоящему анонимными.

Подписывайтесь на канал РИАМО в МАКС.