Anthropic опублікувала перший звіт про роботу Project Glasswing — ініціативи у сфері кібербезпеки, яку компанія запустила у квітні. Проєкт використовує ШІ-модель Claude Mythos Preview для пошуку вразливостей у програмному забезпеченні.
Mythos знайшов понад 10 тисяч вразливостей
Anthropic повідомила, що лише за місяць партнери Project Glasswing виявили понад 10 тис. вразливостей за допомогою Claude Mythos Preview, а швидкість пошуку зросла у понад 10 разів.
Cloudflare заявила, що знайшла 2 тис. багів, із яких 400 були критичними або високого рівня небезпеки. Mozilla раніше повідомляла, що за допомогою Mythos Preview виявила та виправила 271 вразливість у Firefox.
Anthropic також просканувала 1 тис. open-source проєктів і виявила 6 202 критичні або високоризикові вразливості із загальних 23 019 знайдених проблем.
Відкритий доступ до Mythos
Anthropic заявила, що не публікує Claude Mythos Preview через ризик зловживань.
У звіті компанія зазначила, що жодна ШІ-компанія, включно з Anthropic, поки не створила достатньо надійних механізмів захисту для таких моделей. Водночас Anthropic планує випустити «Mythos-class models» у майбутньому.
Компанія також повідомила, що працює над розширенням Project Glasswing разом із урядами США та інших країн.
Серед партнерів Anthropic у проєкті — Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, NVIDIA та Palo Alto Networks.
Зріст на тлі розвитку ШІ-безпеки
Раніше повідомлялось, що Anthropic може вперше стати прибутковою компанією. За даними The Wall Street Journal, компанія очікує виручку $10,9 млрд та операційний прибуток $559 млн у кварталі, який завершиться у червні.
Водночас Anthropic не очікує стабільної прибутковості надалі, оскільки планує збільшити витрати на обчислювальні ресурси та розвиток ШІ-інфраструктури.
