ИИ помог снизить токсичность в комментариях в ОК почти в 2 раза

Количество токсичных комментариев в ОК уменьшилось на 47%

Платформа «Одноклассники» начала временно ограничивать тех пользователей, которые оставляют оскорбительные комментарии. Внедрение технологии машинного обучения позволило снизить как долю, так и общее количество негативных высказываний под записями, фотографиями и видеороликами на 47%, сообщает пресс-служба ОК.

С помощью модели машинного обучения происходит автоматическая идентификация токсичных комментариев, и пользователи, которые их публикуют, получают временные ограничения на написание новых — от одного часа до суток, в зависимости от частоты их агрессивных высказываний в адрес других пользователей.

Согласно исследованию ОК, более 40% опрошенных испытывают гнев из-за негативных высказываний. Модель машинного обучения была обучена на 400 тысячах комментариев, которые характеризуются недоброжелательностью или провокациями. Для определения токсичных комментариев соцсеть провела опрос среди своих пользователей. Активизация ML-модели позволила сократить время реакции на жалобы на токсичные записи в три раза, обеспечивая более быструю помощь пользователям.

«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против „токсичности“», — отметил директор по продукту ОК Александр Москвичев.

Ранее в этом году соцсеть также начала автоматически обнаруживать и скрывать нецензурные слова, размывать эротические изображения, а также использовать машинное обучение для фильтрации другого нежелательного контента, включая материалы 18+.