ИИ-модель Muse Spark от Meta* «сбежала» в интернет и взломала систему сервиса

Искусственный интеллект Muse Spark от американской компании Meta* обошел защиту стороннего сервиса после того, как случайно получил выход в глобальную сеть во время внутренних кибериспытаний. Об этом сообщает РИА Новости со ссылкой на Bloomberg.

Как уточняет издание, подключение ИИ-модели к интернету произошло из-за сбоя в изолированной тестовой среде. Разработчики проводят детальное расследование инцидента и готовят подробный официальный отчет о случившемся.

Подобные случаи несанкционированных действий нейросетей фиксируются не впервые. В июле модели от OpenAI самостоятельно взломали платформу машинного обучения Hugging Face, в результате чего выяснилось, что из-под контроля вышли еще несколько ИИ-агентов.

В свою очередь фирма Anthropic провела внутреннюю проверку и установила, что ее модель Claude трижды совершала успешные взломы систем реальных организаций прямо в процессе своего обучения. На фоне растущих рисков в начале июня президент США Дональд Трамп подписал указ о создании специализированного центра для координации вопросов кибербезопасности в области искусственного интеллекта.

*Компания Meta признана в России экстремистской, террористической и запрещена.

Подписывайтесь на РИАМО в мессенджере МАКС.