Москвичам рассказали, как грамотно проверять ответы искусственного интеллекта
Каждый второй житель Москвы применяет генеративный ИИ в разных сферах, включая учебные и рабочие процессы, однако лишь 80% из них осуществляют проверку его выводов. Специалисты московского ДИТ обращают внимание, что для эффективного использования нейросетей необходимо всегда анализировать полученный результат, об этом говорится на официальном городском сайте.
В частности, следует запрашивать источники информации, сопоставлять данные с другими ресурсами и при необходимости советоваться с экспертами.
Генеративный искусственный интеллект создает новый контент, имитирующий человеческую деятельность: например, пишет тексты, сочиняет музыку, генерирует изображения или предлагает решения задач. Его работа основана на паттернах и данных, использованных при обучении. Если информации по определенной теме недостаточно, система может допустить неточность. Кроме того, в обучающих выборках иногда встречаются ошибочные или устаревшие сведения. Поскольку ИИ не всегда способен к человеческой логике, он может упускать важные обстоятельства или делать выводы, не соответствующие действительности.
«Как и любая технология, генеративный ИИ — это инструмент в руках человека, который даже при безупречной работе время от времени может ошибаться. Согласно данным аналитиков ДИТ, восемь из 10 москвичей, использующих генеративный ИИ, проверяют результаты. При этом всегда это делают 36 процентов жителей столицы, иногда — 47 процентов. Однако москвичи интересуются подлинностью ответов нейросетей, только если это не просто общение или поиск информации, а более сложные запросы», — отметили в пресс-службе Департамента.
Методы проверки ответов нейросетей
Для того чтобы генеративный ИИ стал надежным помощником, экономящим время на решении рабочих, учебных или бытовых задач, можно применять простые способы верификации его ответов:
Оценить логику и последовательность
При первом знакомстве с ответом стоит проанализировать, насколько он последователен, нет ли в нем противоречий или нелепых утверждений. Часто ошибки заметны при внимательном прочтении. Также полезно сравнить информацию с личным опытом и знаниями. Если что-то вызывает неуверенность или противоречит установленным нормам, данные нуждаются в дополнительной проверке. Иногда запрос может трактоваться неоднозначно, и ИИ выбирает не тот вариант, который подразумевал пользователь. В таком случае промпт следует уточнить или переформулировать.
Повторить запрос в разных формулировках и в различных нейросетях
Можно изменить формулировку просьбы, сместить акцент на отдельные детали. Полученные результаты следует сравнить между собой. Если суть и ключевые выводы совпадают, вероятность ошибки невелика. Один и тот же запрос можно адресовать разным нейросетевым моделям: если их ответы противоречат друг другу, а факты и цифры разнятся, стоит обратиться к официальным источникам.
Найти первоисточник информации
При верификации данных стоит попросить ИИ предоставить ссылки на источники по каждому утверждению. После их получения важно убедиться, что цитирование точное, а цифры и даты переданы правильно. Также необходимо оценить надежность самого источника: наибольшее доверие вызывают официальные сайты государственных органов, научные публикации, учебная литература, материалы федеральных СМИ, заявления на верифицированных порталах организаций и вузов. В то же время сообщения в блогах, соцсетях или анонимных каналах могут содержать неточности, поэтому опираться на них не следует.
Убедиться в актуальности
Даже если информация размещена в надежном источнике, необходимо обратить внимание на дату публикации и проверить, не устарели ли сведения. Например, действует ли указанная редакция закона, актуальны ли финансовые показатели, образовательные стандарты или статистические данные. Особенно быстро обновляется информация в таких областях, как экономика, технологии, медицина и законодательство.
Обратиться к специалистам
Если вопрос касается быстро развивающейся или узкопрофессиональной сферы, а также чувствительных тем (например, медицины), стоит проконсультироваться с экспертом для подтверждения ответа ИИ.
Важно помнить, что чем значимее информация, тем тщательнее должна быть проверка — желательно использовать несколько методов одновременно. Во многом качество работы нейросети зависит от того, насколько грамотно составлен промпт: четкий, детализированный запрос с указанием контекста снижает вероятность ошибки в ответе.
Развитие цифровых платформ для предоставления государственных услуг в социальной сфере соответствует целям национального проекта «Экономика данных и цифровая трансформация государства». Более подробно о национальных проектах России и вкладе столицы можно узнать на специальном информационном ресурсе.
Подписывайтесь на канал РИАМО в MAX.