OpenAI протягом найближчих тижнів почне додавати невидимі машинозчитувані водяні знаки до текстів ChatGPT і Codex у Європейському Союзі. Компанія впроваджує технологію для виконання вимог європейського законодавства щодо ШІ.
Маркування з'явиться на всіх тарифах у ЄС
Технологія OpenAI має назву textGrain. Вона додає до згенерованого тексту невидимий статистичний сигнал, який можна визначити за допомогою спеціального детектора.
На першому етапі маркування запрацює для відповідних користувачів ChatGPT і Codex у Європейському Союзі. Зміна стосуватиметься всіх тарифів.
OpenAI поки не планує робити водяні знаки стандартними для користувачів в інших регіонах. Компанія хоче спочатку оцінити роботу технології та отримати відгуки в ЄС.
Цей крок є частиною виконання вимог Європейського Союзу щодо прозорості ШІ-контенту.
Для клієнтів API правила будуть іншими. Вони зможуть самостійно активувати водяні знаки для текстів окремих моделей незалежно від регіону.
OpenAI також працює з хмарними партнерами, щоб протягом найближчих тижнів додати маркування до результатів своїх моделей у їхніх сервісах.
Детектор спочатку не буде загальнодоступним
Доступ до інструмента для виявлення водяних знаків зможуть отримати дослідники та експертні організації. Для цього їм потрібно буде подати заявку.
Детектор визначатиме наявність водяного знака OpenAI, але не ідентифікуватиме користувача. Він також не розкриватиме запити або розмови.
OpenAI не планує робити детектор загальнодоступним на момент запуску. Компанія пояснює це ризиком пропущених водяних знаків та помилкових спрацювань.
За тестами OpenAI, ефективність виявлення залежить від довжини та типу тексту. Редагування згенерованого матеріалу також може послабити водяний знак і ускладнити його виявлення.
Компанія заявляє, що textGrain показала результати на рівні або вище інших підходів до маркування текстів.
У майбутньому OpenAI планує зробити код textGrain відкритим для інших розробників. Це дозволить іншим розробникам використовувати та вдосконалювати систему маркування.
