Киберэксперт Бедеров призвал проверять ответы искусственного интеллекта

Киберэксперт Игорь Бедеров рекомендовал проверять ответы искусственного интеллекта с учетом риска: чем серьезнее последствия ошибки, тем тщательнее должна быть проверка, сообщает RT.

Бедеров пояснил, что для бытовых вопросов достаточно здравого смысла. Но если от ответа зависят деньги, здоровье, право, безопасность, репутация, публикация или государственное решение, проверка обязательна.

«Если речь о бытовом вопросе, достаточно здравого смысла. Если ответ влияет на деньги, здоровье, право, безопасность, репутацию, публикацию или государственное решение — проверка обязательна. Генеративная модель лишь предсказывает правдоподобный текст и может уверенно ошибаться», — объяснил специалист.

По словам Бедерова, самопроверка модели полезна лишь как дополнительный фильтр. Она может выявить часть ошибок, но также повторить ложный источник или придать неверному выводу более уверенный тон.

Эксперт рекомендовал сначала оценить риск, затем запросить у искусственного интеллекта источники, даты, цитаты и границы применимости ответа. Ключевые факты нужно сверять с первоисточниками: официальными реестрами, нормативными документами, судебными актами, техническими логами, метаданными и публикациями.

Подписывайтесь на канал РИАМО в МАКС.