Эксперт назвал опасные для передачи искусственному интеллекту задачи

Замгендиректора АО «КИВИ» по информационной безопасности Алексей Юдин предупредил: искусственному интеллекту нельзя без контроля поручать платежи, смену реквизитов и работу с чувствительными данными, сообщает Газета.ru.

Искусственному интеллекту не следует самостоятельно проводить платежи, менять реквизиты и доступы, работать с чувствительными данными и отправлять сообщения от имени сотрудников. Такие действия должны контролировать специалисты.

«Рабочие задачи следует оценивать по возможным последствиям ошибки и уровню самостоятельности системы. ИИ может подготовить письмо, расшифровать встречу или провести первичный анализ данных, если итог проверит специалист. Риски резко возрастают, когда модель получает возможность не только предложить решение, но и исполнить его. Особенно это касается ИИ-агентов. Они способны самостоятельно открыть письмо, извлечь информацию, войти в другую систему и совершить действие с использованием учетных данных сотрудника. Для корпоративной инфраструктуры такая операция может выглядеть как выполненная человеком», — отметил заместитель генерального директора по информационной безопасности АО «КИВИ» Алексей Юдин.

Эксперт пояснил, что автоматизированная система может повторить ошибку сотни или тысячи раз. Для ИИ-агентов он рекомендовал создавать отдельные учетные записи, выдавать только нужные права, вести журнал действий и предусмотреть немедленную остановку системы.

Подписывайтесь на канал РИАМО в МАКС.