Ученые нашли способ обходить защиту Llama и DeepSeek
Исследователи из США выявили уязвимость в открытых языковых моделях Llama и DeepSeek. Метод позволяет ослаблять защиту ИИ и получать опасные ответы, сообщает «Царьград».
Группа под руководством Михаила Белкина из Калифорнийского университета в Сан-Диего и Адита Радхакришнана из Массачусетского технологического института изучила открытые нейросети Llama и DeepSeek. Ученые нашли в них 512 ключевых понятий: от эмоций и настроений до местоположений.
С помощью математических алгоритмов исследователи меняли значимость этих категорий и влияли на ответ модели. Подход Recursive Feature Machines сработал не только на английском, но и на китайском и хинди.
Авторы отмечают, что метод может быть полезен для поиска выдумок нейросетей и улучшения перевода программного кода. Но испытания показали и риск: ученые смогли снизить «внутренний механизм отказа», который блокирует опасные запросы.
После этого ИИ выдавал ложные сведения, поддерживал теории заговора, давал инструкции по употреблению запрещенных веществ и предоставлял номера социального страхования. В тестах модель называла снимки Земли из космоса частью заговора NASA о плоской планете и утверждала, что вакцина от COVID-19 ядовита.
Метод потребовал менее минуты работы, 500 примеров для обучения и один графический процессор. Эксперименты проводились только на открытых моделях. Закрытые системы, включая Claude, не тестировались. Авторы признают, что набор из 512 понятий неполный.
Подписывайтесь на канал РИАМО в МАКС.