OpenAI запровадить водяні знаки для текстів ChatGPT і Codex у ЄС
OpenAI почне маркувати тексти ChatGPT і Codex водяними знаками для користувачів у ЄС та відкриє добровільну опцію для API.
OpenAI протягом найближчих тижнів запровадить невидимі машинозчитувані водяні знаки для текстових відповідей ChatGPT і Codex для відповідних користувачів у країнах Європейського Союзу. Функція буде доступна на всіх тарифних планах, однак на старті не стане глобальним стандартом.
Про це повідомляє The Verge. Компанія назвала технологію textGrain і заявила, що регіональний запуск дасть змогу отримати досвід практичного використання та відгуки користувачів.
Маркування для API та хмарних сервісів
Від 5 жовтня клієнти API OpenAI у всьому світі можуть добровільно ввімкнути водяні знаки у текстових відповідях окремих моделей. Це має дозволити їм самостійно визначати, як застосовувати маркування відповідно до вимог прозорості та власного користувацького досвіду.
OpenAI також працює з хмарними партнерами, щоб у найближчі тижні зробити водяні знаки доступними для результатів роботи її моделей через їхні сервіси. Схвалені дослідники й експертні організації вже можуть подати заявку на доступ до інструмента виявлення таких позначок.
Можливості та обмеження textGrain
За заявою OpenAI, textGrain у тестах зрівнявся або перевершив інші підходи, зокрема SynthID для тексту від Google DeepMind. Саме SynthID також став основою технології водяних знаків, про яку Anthropic оголосила в серпні.
Водночас OpenAI застерегла, що textGrain не гарантує надійного виявлення. Текстові водяні знаки не підтверджують точність змісту, не визначають власника тексту, не вимірюють внесок людини та не доводять людське авторство. Компанія також оприлюднила результати тестів, які, за її даними, демонструють подібну продуктивність моделей із маркованими та немаркованими текстами.
