Компанія Pangram, відома сервісом перевірки текстів на використання штучного інтелекту, представила інструменти для розпізнавання ШІ-зображень і відео. За результатами власних тестів, точність перевірки фотографій становить 99,96%.
Як працюють нові детектори
Pangram представила дві моделі для перевірки контенту — Pangram Image 1.0 для зображень та Pangram Image Flash 1.0 для відео.
Pangram Image 1.0 може виявляти як повністю згенеровані ШІ зображення, так і фотографії, які частково змінили за допомогою нейромереж.
Окремо компанія додала функцію теплової карти. Вона виділяє конкретні ділянки зображення або відео, які система визначила як створені штучним інтелектом.
Це дозволяє користувачам не лише отримати результат перевірки, а й побачити, які саме елементи викликали підозру.
За заявою Pangram, модель для зображень досягла точності 99,96% під час тестування на власному наборі з 1200 фотографій. Частка хибнопозитивних результатів становила 0,27%.
Водночас ці показники отримані під час тестування самої компанії.
Pangram також представила модель Image Flash 1.0, яка аналізує відео на наявність згенерованого ШІ контенту. За словами розробників, вона особливо добре працює з матеріалами, створеними новими генеративними моделями.
Під час тестування точність визначення ШІ-відео перевищила 98%. Pangram стверджує, що її інструмент суттєво випередив конкурентів.
Компанія також попереджає про обмеження своїх технологій. Зокрема, точність перевірки може знижуватися для зображень із роздільною здатністю менш як 512 × 512 пікселів.
Ще одна складність пов'язана з обробкою фотографій сучасними смартфонами.
«Більшість камер смартфонів, зокрема iPhone, певною мірою використовують ШІ для постобробки, щоб додавати деталізацію до справжніх фотографій», — сказав Макс Сперо, генеральний директор Pangram.
За його словами, команда навчила модель враховувати таку обробку та відрізняти її від генерації зображення штучним інтелектом.
Кому доступні нові функції
Нові інструменти Pangram уже доступні користувачам із платною підпискою. Безплатні користувачі також зможуть перевіряти зображення та відео, але кількість перевірок буде обмеженою.
Pangram Image 1.0 можна використовувати через розширення для браузера Chrome. Воно здатне автоматично аналізувати зображення під час перегляду вебсторінок.
Якщо система визначить зображення як згенероване ШІ, розширення позначить його.
