OpenAI за замовчуванням маркуватиме відповіді ChatGPT у ЄС
OpenAI почне за замовчуванням маркувати тексти ChatGPT у ЄС цифровими водяними знаками, які можна виявити спеціальним інструментом.
OpenAI упродовж найближчих тижнів почне автоматично додавати цифрові водяні знаки до текстів, згенерованих ChatGPT для користувачів у Європейському Союзі. За межами ЄС функція буде доступною, однак за замовчуванням її не активуватимуть.
Як повідомляє Ars Technica, рішення для Європи пов’язане з вимогами Акта ЄС про штучний інтелект, який набув чинності в серпні. Документ передбачає маркування контенту, створеного ШІ-моделями, так, щоб його могла виявити інша система.
Як працюватиме textGrain
Власний метод OpenAI має назву textGrain. Компанія описала його в технічній статті: система формує непомітні для читача закономірності у виборі слів, які не мають суттєво впливати на загальну якість тексту. Спеціалізований детектор за наявності ключа може виявити такі патерни.
OpenAI планує надати доступ до детектора обмеженому колу дослідників та організацій. Для інших зацікавлених сторін компанія обіцяє з часом запровадити процедуру подання запиту на схвалення доступу.
Обмеження виявлення
За тестами OpenAI, у найкращому сценарії textGrain успішно виявлявся у 92% випадків. Водночас зміна лише 10% тексту знижувала показник успішного виявлення майже на 30%, а редагування 20% тексту могло зменшити його майже на 75%. Для коротких або перекладених текстів ефективність виявлення загалом нижча, ніж для довших матеріалів.
Водяні знаки також залишатимуться вимкненими за замовчуванням, але доступними як опція в API. У серпні конкурент OpenAI, Anthropic, запровадив маркування тексту, створеного його моделями, глобально. OpenAI натомість робить функцію стандартною лише там, де цього вимагає регулювання, зокрема у застосунках ChatGPT і Codex.
