В России разработали систему на базе ИИ для проверки ответов ChatGPT
Специалисты Московского государственного психолого-педагогического университета разработали систему на базе искусственного интеллекта для проверки ответов нейросетей на достоверность. Разработка уже прошла тестирование, сообщает Газета.ru.
Ученые факультета «Информационные технологии» МГППУ создали программу, которая оценивает правдоподобность ответов нейросетей, в том числе ChatGPT. Решение направлено на выявление так называемых галлюцинаций — правдоподобных, но ложных утверждений, которые иногда генерирует ИИ.
Система работает по «алгоритму маятника». Исходный тезис, который может быть как верным, так и ошибочным, последовательно подтверждается и опровергается в серии высказываний. Каждое новое утверждение формируется как смысловое опровержение предыдущего, но в рамках той же темы и с сохранением ключевых понятий.
В итоге формируются два массива текстов — в поддержку тезиса и против него. Затем программа анализирует их согласованность. Предполагается, что более логически связанный массив указывает на содержательно более корректную позицию.
Разработчики отмечают, что инструмент особенно востребован в гуманитарных областях, где понятия часто размыты и зависят от контекста. Система уже успешно протестирована на текстах психологической тематики.
Подписывайтесь на канал РИАМО в MAX.