Пользователь главнее: почему ИИ не должен удалять файлы с ПК самостоятельно

Использование ИИ-агентов для очистки памяти компьютера может поставить под угрозу конфиденциальность, так как нейросети для анализа получают доступ к личным файлам. Но их передача на серверы разработчиков зависит от настроек конкретного сервиса, сообщил РИАМО эксперт по информационной и экологической безопасности Илья Рыбальченко.

По его словам, процесс чистки диска от ненужных файлов должен идти не по принципу, когда ИИ выбрал файлы и окончательно удалил их. Решающее действие должно быть за пользователем. Вначале агент должен предоставить список файлов и их анализ. Причем не удалять их полностью, а переместить в корзину. Однако тут есть и вопрос в конфиденциальности.

Эксперт подчеркнул, что доступ модели ИИ к файлам и ее обучение на этих файлах — не одно и то же.

«Агенту действительно может понадобиться прочитать содержимое диска, чтобы понять, что перед ним. Но будут ли эти данные покидать компьютер, передаваться на сервер, храниться и использоваться для улучшения моделей, зависит уже от архитектуры конкретного продукта, его настроек и политики обработки данных», — пояснил Рыбальченко.

Подписывайтесь на канал РИАМО в МАКС.