Систему родительского контроля внедрят в ChatGPT после самоубийства подростка

Компании OpenAI пришлось выпустить обновление для ChatGPT после судебного иска от родителей покончившего с собой подростка. В новой версии в чат-бот была добавлена система родительского контроля, сообщает РБК со ссылкой на Bloomberg.

Ранее на OpenAI подали в суд родители 16-летнего парня из Калифорнии. Оказалось, что подросток покончил с собой, использовав чат-бот для планирования суицида. По словам родителей юноши, нейросеть «систематически изолировала его от семьи».

Компания нашла выход из ситуации. Она выпустила обновление, благодаря которому ChatGPT научится лучше распознавать признаки психического стресса у пользователей. Так, например, если человек расскажет боту о проблемах со сном, то тот объяснит опасность такого состояния и порекомендует отдых.

Также система будет прерывать общение, если пользовать будет на протяжении продолжительного времени говорить о суициде. Новые инструменты, которые вводятся в обновлении, помогут родителям контролировать использование чат-бота их детьми. Также они смогут просматривать историю запросов.

Ранее стало известно, что ChatGPT иногда делает ложные заявления, которые «сводят с ума» пользователей. Так, бот придумал новую концепцию из области физики и заявил, что общается с инопланетянами.