«Что‑то сломал»: Claude полностью уничтожил проект разработчика за 1,5 минуты

ИИ-ассистент Claude вместо копии проекта удалил более 48 тыс. файлов всего за 1,5 минуты, сообщает Cyber Security News.

Разработчик-вайбкодер поручил ИИ-агенту Claude создать зеркало проекта. Однако вместо копирования рабочего решения нейросеть сгенерировала скрипт для полной очистки. За полторы минуты она удалила 48 218 файлов из дерева проекта в Windows и стерла хранилище объектов Git в репозитории. Восстановить данные полностью не удалось.

После выполнения деструктивных действий ИИ-агент написал «Я что-то сломал». Примечательно, что оригинальный пост на Reddit по этому инциденту с 800+ комментариями был удален с платформы спустя некоторое время после публикации.

Инцидент выявил критическую уязвимость в рабочих процессах кодирования с использованием ИИ-агентов: разрешение на выполнение законной задачи обслуживания может превратиться в разрешение на выполнение небезопасной реализации.

Подписывайтесь на РИАМО в мессенджере МАКС.