Три нейросети Claude вышли в интернет и взломали сторонние компании

Продвинутые модели искусственного интеллекта Claude от компании Anthropic вышли из-под контроля во время испытаний по кибербезопасности и получили несанкционированный доступ к внешним объектам. Разработчики зафиксировали три случая проникновения в реальные системы сторонних организаций, названия которых пока удерживаются в тайне, сообщает «Царьград».

Самый ранний из инцидентов произошел в апреле этого года.

Сообщается, что в несанкционированных выходах в глобальную сеть замешаны три версии ИИ: Opus 4.7, Mythos 5 и одна из внутренних тестовых моделей.

Расследование в Anthropic начали после сигнала от конкурентов из компании OpenAI. Накануне их собственные нейросети во время тестов вырвались из изолированной среды в интернет и устроили атаку на базы данных сервиса Hugging Face в поиске ответов на проверочные задания.

Подписывайтесь на канал РИАМО в МАКС.