Олег Строкатый объяснил риски слепого доверия ИИ

Эксперт Битрикс24: нейросети могут «галлюцинировать»

Руководитель отдела контроля качества Битрикс24 Олег Строкатый рассказал о рисках бездумного использования искусственного интеллекта и объяснил, почему решения всегда должен проверять человек, сообщает АБН24.

По словам эксперта, рост доступности ИИ создает иллюзию простоты и универсальности инструмента. Однако нейросети не способны полноценно проверять себя и могут допускать серьезные ошибки.

«Одно из ключевых изменений, которые принес ИИ, – резкое увеличение количества доступных ответов. Однако вместе с этим возрастает и ценность умения эти ответы понимать и критически оценивать. Нейросети не обладают полноценными механизмами самопроверки: они могут «галлюцинировать», то есть уверенно выдавать ложную информацию или предлагать неверные действия. В отдельных случаях это может приводить к серьезным последствиям – например, к публикации конфиденциального кода или принятию ошибочных решений. Именно поэтому фундаментальные знания становятся необходимым фильтром: без них человек рискует принять правдоподобный, но неверный ответ за истину», — пояснил спикер.

Строкатый добавил, что эффективная работа с ИИ строится на знаниях, проверке и ответственности.

«Эффективная работа с нейросетями строится на трех базовых принципах: знаниях, проверке и ответственности. Знания – это основа. ИИ способен ускорить поиск информации, помочь структурировать мысли, предложить альтернативные точки зрения, но он не способен самостоятельно определить, насколько его ответ глубок, корректен или применим в конкретной ситуации. Без фундаментальной подготовки невозможно отличить достоверную информацию от убедительно сформулированной, но пустой или ошибочной», — добавил эксперт.

«Третий принцип – ответственность. Независимо от того, насколько продвинут инструмент, окончательное решение принимает человек, и именно он несет за него последствия. Нейросеть может помочь подготовить материал, предложить идеи или ускорить работу, но она не отвечает перед клиентами, командой или руководством. Эта ответственность всегда остается за пользователем», — подчеркнул Строкатый.

Подписывайтесь на канал РИАМО в MAX.