Эксперт Доржиев предупредил бизнес о рисках утечки данных через ИИ

Эксперт по корпоративным технологиям Саян Доржиев предупредил, что нейросетям нельзя передавать коммерческие тайны и персональные данные.

Доржиев заявил, что нейросети могут раскрыть конкурентам или злоумышленникам проприетарные модели, торговые алгоритмы и аналитику.

«Помните: информация из компьютерных баз данных не удаляется никогда. Даже когда вы видите ее удаленной, это интерфейс. Информация только отображается как удаленная, а внутри она живет с пометкой „удалена“. Что касается нейросетей, то никто не знает, что она будет делать с переданной ей информацией. Нейросеть может выдать вашу информацию другому пользователю, конкуренту, злоумышленнику. Уйти могут ваши проприетарные модели, торговые алгоритмы, аналитика по обнаружению мошенничества», — предупредил Саян Доржиев в эфире радио Sputnik.

Эксперт добавил, что утечка данных клиентов может привести к судебным искам.

«Вы будете признаны виновным в нарушении GDPR и EU AI Act в Европе. В России — в нарушении законодательства о персональных данных, как минимум. Я уже не говорю об ущербе вашей деловой репутации. В конце концов система может обучиться делать то, что делаете вы. Только нейросеть будет делать это быстрее вас и бесплатно. Это может просто уничтожить вашу бизнес-модель», — подчеркнул Саян Доржиев.

По словам Доржиева, шифрование не исключает рисков, поскольку нейросети обрабатывают расшифрованные данные.

«Вам кажется, что вы в безопасности, потому у вас данные зашифрованы в состоянии покоя и в процессе передачи. Но поскольку для результата вам нужно, чтобы нейронка вас поняла, вы позволяете ей их расшифровать. Ведь inference, понимание, происходит на расшифрованных данных», — пояснил Доржиев.

Эксперт отметил взрывной рост ИИ-агентов в 2026 году.

«Это нейросети нового уровня, умеющие самостоятельно принимать решения и действовать автономно. Поэтому может произойти установление незаметного контроля над вашими корпоративным ПО: системами записи, продуктивности, сигнальными системами. ИИ-агенты умнее вирусов. Они могут подолгу затаиваться без активностей, менять системные записи и обманывать вашу систему безопасности», — отметил Саян Доржиев.

Подписывайтесь на канал РИАМО в МАКС.