Anthropic виявила п’ять випадків використання Claude у біологічних дослідженнях, результати яких потенційно можна застосувати для створення біологічної зброї.
Віруси із небезпечними властивостями
У травні 2026 року система безпеки Anthropic заблокувала запит на допомогу з грантовою заявкою щодо вірусу чикунгунья. Дослідження передбачало зміну його здатності передаватися та уникати імунної відповіді.
Компанію насторожив не лише характер роботи. Заявка стосувалася цивільних дослідників, але експерименти мали проводити у військовому дослідницькому інституті.
Подальше розслідування виявило платформу-посередника, якою користувалися десятки дослідників у галузі наук про життя. Серед них були вірусологи, пов’язані з цивільними та військовими установами.
Платформа обходила регіональні обмеження Anthropic через американську інфраструктуру. Запити, які Claude відмовлявся виконувати, вона могла перенаправляти до моделей із менш суворими обмеженнями.
Після блокування пов’язаних акаунтів оператор відновив доступ протягом кількох днів. Anthropic продовжила виявляти та блокувати акаунти, пов’язані з цією діяльністю.
Небезпечні запити та звичайна наука
Головна проблема для Anthropic полягає в подвійному призначенні біологічних досліджень. Одна й та сама інформація може допомогти створити лікування або зробити біологічний агент небезпечнішим.
Один із користувачів за допомогою Opus 5 приблизно за годину підготував грантову заявку для дослідження ортопоксвірусів. Модель допомогла сформулювати центральну гіпотезу, спланувати експерименти, дозування, статистичний аналіз і резервні стратегії. Захисні системи не заблокували цю роботу через її подвійне призначення.
Ще два випадки стосувалися отрут і токсинів. Один науковець створював за допомогою Claude каталог пептидів отрут та систему для оптимізації їхніх характеристик.
Проєкт мав заявлену терапевтичну мету, зокрема розробку знеболювальних та антидепресантів. Однак ті самі методи могли використовуватися для створення шкідливих сполук.
Автоматичних фільтрів недостатньо
Компанія заблокувала виявлені акаунти та використала результати розслідувань для вдосконалення захисних механізмів. Частину інформації Anthropic також передавала іншим ШІ-лабораторіям та державним органам.
Назви установ, країни та частину інформації про досліджувані біологічні агенти компанія не розкриває.
«Особи, пов’язані з цими випадками, є практикуючими науковцями. Ми не стверджуємо, що вони мали намір завдати шкоди», — заявила Anthropic.
За висновком компанії, одного автоматичного класифікатора недостатньо для контролю найпотужніших ШІ-моделей у біологічних дослідженнях. Anthropic вважає безпечнішим надавати такі можливості перевіреним користувачам.
