Фахівці з кібербезпеки Cathedral за допомогою ШІ-агентів виявили вразливості у внутрішніх системах Anthropic менш ніж за 12 годин. Дослідження проводили в межах програми перевірки безпеки компанії, повідомляє The Washington Post.
Як дослідники отримали доступ до систем Anthropic
Cathedral — стартап із кібербезпеки, заснований колишніми учасниками американської урядової ініціативи DOGE. Компанія отримала федеральні контракти у сфері кібербезпеки, а її оцінка досягла $1,4 млрд.
Команда Cathedral використала ШІ-агентів для пошуку слабких місць у програмному забезпеченні, яким Anthropic користується для повсякденної роботи.
Дослідники не атакували безпосередньо Claude або інфраструктуру ШІ-моделей. Натомість вони знайшли вразливості у сторонніх корпоративних застосунках, які використовують для адміністративних завдань і роботи з клієнтами.
Завдяки цим недолікам фахівці отримали доступ до частини внутрішньої інформації Anthropic. Серед неї були дані про пропозиції роботи, записи зустрічей і повідомлення співробітників у Slack.
Дослідники також змогли переглянути внутрішні обговорення передових ШІ-моделей компанії.
Anthropic підтвердила, що Cathedral отримала обмежений доступ до внутрішніх систем продажів, управління персоналом та IT. Водночас компанія наголосила, що основна інфраструктура її ШІ-моделей не була скомпрометована.
За словами Anthropic, дослідники не отримали доступу до розмов користувачів із Claude, вихідного коду моделей або їхніх ваг.
Як Anthropic відреагувала на виявлені вразливості
Anthropic повідомила, що її системи безпеки виявили частину підозрілої активності ще до того, як Cathedral передала результати дослідження.
Після цього компанія заблокувала доступ і тимчасово вимкнула вразливі застосунки. Обмеження діяли, доки постачальники програмного забезпечення не усунули проблеми.
Anthropic також заявила, що не знайшла доказів використання цих вразливостей іншими особами.
Важливо, що йдеться про санкціоноване дослідження безпеки, а не підтверджену атаку зловмисників. Cathedral працювала в межах програми, яка дозволяє зовнішнім фахівцям знаходити та повідомляти про вразливості.
Водночас Anthropic заявляє, що дослідники не повністю дотрималися вимог її програми розкриття вразливостей.
Компанія також не погодилася з оцінкою Cathedral щодо потенційних ризиків для національної безпеки.
