Компанія Anthropic представила FlashProve — експериментальну систему для перевірки відповідей штучного інтелекту. Технологія дозволяє підтвердити, що текст створила саме заявлена модель.
Як працює FlashProve
FlashProve допомагає перевірити, чи справді користувач отримав відповідь від тієї моделі ШІ, яку обрав. Зараз визначити це лише за текстом відповіді практично неможливо.
Наприклад, сторонній сервіс може непомітно замінити дорогу модель дешевшою. Користувач не знатиме про підміну, навіть якщо отримана відповідь виглядатиме переконливо.
FlashProve використовує криптографічні докази, які підтверджують походження відповіді. Разом із текстом система може надавати спеціальний файл для перевірки.
Такий файл дозволяє переконатися, що відповідь створила конкретна модель. Для цього не потрібно запускати саму модель або мати доступ до її внутрішніх параметрів.
Водночас технологія не розкриває приховані параметри моделі. Це дозволяє перевіряти її роботу без передачі конфіденційної інформації розробника.
Для створення системи Anthropic використала криптографічний метод zkSNARK. Він дозволяє підтверджувати правильність обчислень без розкриття даних, на яких вони ґрунтуються.
Яких результатів досягла Anthropic
Anthropic випробувала FlashProve на великій мовній моделі Llama 4 Maverick. Система змогла створювати цифрові докази, за допомогою яких можна перевірити походження відповідей ШІ.
Однак технологія поки потребує значних обчислювальних ресурсів. За даними компанії, створення таких доказів вимагає приблизно у 70–95 разів більше обчислювального часу, ніж звичайна робота моделі.
У розробці FlashProve допомагав Claude. Anthropic відкрила програмний код, щоб інші дослідники могли перевіряти та вдосконалювати технологію.
Поки що система залишається дослідницьким прототипом із низкою технічних обмежень. Зокрема, вона підтримує контекст лише до 1024 токенів і працює за певних умов. Тому використовувати її для перевірки відповідей будь-якої моделі ШІ наразі неможливо.
Компанія наголошує, що це лише проміжний результат досліджень, і закликає розробників долучатися до подальшого розвитку технології.
