OpenAI анонсировала невидимую маркировку текстов ChatGPT в Евросоюзе

В течение нескольких недель OpenAI начнет внедрять скрытые водяные знаки в тексты, созданные или отредактированные с помощью ChatGPT, для жителей стран Евросоюза, сообщает «Царьград».

Технология textGrain незаметно меняет статистические закономерности подбора слов моделью. Она не добавляет скрытые символы, лишние пробелы или особую пунктуацию. Читатель не видит метку, но специальный детектор может ее обнаружить.

Знак может указывать как на создание текста в ChatGPT, так и на участие системы в редактировании фрагмента. При этом он не позволяет оценить вклад человека. OpenAI уточнила, что метка не раскрывает пользователя, его аккаунт, запросы или переписку, не подтверждает достоверность текста и не устанавливает юридическое авторство.

После серьезной переработки, перефразирования или перевода знак может стать менее различимым. Детектору также сложнее обнаружить его в коротких текстах. На старте OpenAI предоставит инструмент лишь одобренным исследователям и профильным организациям, а не широкой публике.

Компания связывает запуск в Евросоюзе с требованиями европейского закона об искусственном интеллекте о машиночитаемой идентификации сгенерированного контента. На первом этапе обязательное включение маркировки за пределами ЕС не предусмотрено.

Подписывайтесь на канал РИАМО в МАКС.