OpenAI начнёт маркировать тексты ChatGPT в Евросоюзе - AI Founder

OpenAI начнёт маркировать тексты ChatGPT в Евросоюзе

В ближайшие недели OpenAI добавит невидимый статистический водяной знак в тексты ChatGPT и Codex для пользователей из ЕС. Сигнал textGrain будет встроен в выбор слов и позволит специальному детектору оценить, участвовала ли в создании текста система OpenAI.

Но определить происхождение текста получится не всегда. В тестах детектор находил знак примерно в 95% текстов длиной 400 токенов и только в 80% текстов на 200 токенов. После замены 10% слов синонимами точность падала с 92% до 66%, а после замены четверти слов — до 17%. В математических текстах результат был ещё хуже из-за ограниченного выбора формулировок.

OpenAI подчёркивает, что водяной знак не показывает, сколько в тексте работы человека, кто его написал и кому он принадлежит. Он также не подтверждает достоверность текста, а отсутствие метки не доказывает, что текст написал человек. В API маркировка будет работать только по желанию клиента, а доступ к детектору пока получат лишь одобренные исследователи и экспертные организации.

Максим Черняк
Автор: Максим Черняк

Эксперт AI Founder. Слежу за последними новостями в мире искусственного интеллекта.

Подпишись на наш Telegram-канал

чтобы не упустить главные AI-новости

Подписаться
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x