Anthropic оголосила про партнерство з Accenture для незалежного оцінювання передових моделей штучного інтелекту. Кожна компанія планує інвестувати в розвиток цього напряму щонайменше $1 млрд протягом наступних п’яти років.
Accenture тестуватиме моделі Anthropic
Партнерство очолить Faculty — спеціалізований ШІ-бізнес Accenture. Команда оцінюватиме моделі Anthropic, перевірятиме їх на вразливості, проводитиме оцінювання узгодженості та тестуватиме механізми захисту.
За задумом Anthropic, незалежні фахівці працюватимуть безпосередньо всередині ШІ-компаній та матимуть рівень доступу, порівнянний із працівниками.
Це дозволить їм спостерігати за моделями під час навчання та відстежувати рішення щодо їхнього створення і впровадження. Оцінювачі також зможуть безпосередньо спілкуватися з працівниками компанії.
Такий доступ має допомогти перевіряти виконання зобов’язань у сфері безпеки та виявляти потенційні недоліки. Незалежні фахівці також зможуть повідомляти про інциденти.
Anthropic зазначає, що залучення незалежних оцінювачів не знімає з компанії відповідальності за безпеку моделей.
Компанії вкладуть щонайменше $1 млрд кожна
Anthropic і Accenture інвестує щонайменше по $1 млрд у створення необхідних потужностей протягом наступних п’яти років.
Anthropic називає вбудоване оцінювання новим підходом і зазначає, що деталі його роботи ще формуються. Зокрема, поки немає стандартів щодо інформації, до якої повинні отримувати доступ незалежні оцінювачі. Також не визначені єдині правила звітування про результати таких перевірок.
Окремого усталеного механізму фінансування незалежного оцінювання також немає. У довгостроковій перспективі Anthropic вважає доцільним фінансування зі спільних або державних джерел.
Поки такого механізму немає, Anthropic безпосередньо фінансуватиме роботу Accenture. Компанія також веде діалог із METR та іншими неприбутковими організаціями щодо пілотування окремих елементів вбудованого оцінювання за їхнє власне фінансування.
Партнерство не буде ексклюзивним
Anthropic планує одночасно працювати з кількома незалежними оцінювачами. Компанія повідомила, що протягом наступних тижнів оголосить про інших оцінювачів. Accenture також зможе працювати в аналогічній ролі з іншими розробниками штучного інтелекту.
Anthropic продовжить навчати та випускати передові моделі. Компанія хоче, щоб незалежні оцінювачі працювали паралельно з їхньою розробкою. Підхід до такого оцінювання може змінюватися в міру розвитку галузі.
