Банківські регулятори, зокрема американська Федеральна резервна система, посилюють перевірки використання штучного інтелекту у фінансових установах. Як повідомляє Reuters, вони побоюються кібератак і неконтрольованих дій ШІ-агентів.
Що саме перевіряють американські регулятори
Використання штучного інтелекту в банках вивчають три провідні американські регулятори: Федеральна резервна система (ФРС), Управління контролера грошового обігу (OCC) та Федеральна корпорація страхування депозитів (FDIC).
Їх непокоїть зростання кіберзагроз, можливість неконтрольованих дій автономних ШІ-агентів і використання китайських ШІ-технологій у банківській системі США.
Особливу увагу регулятори приділяють агентам, які можуть самостійно виконувати завдання та реагувати на кіберзагрози. Під час перевірок банки мають пояснити, як вони контролюють роботу таких систем.
Зокрема, регуляторів цікавлять такі питання:
людський контроль — чи відстежують співробітники дії ШІ-агентів і чи погоджують їхні рішення;
обмеження повноважень — як банки запобігають виконанню агентами дій, на які ті не мають дозволу;
аварійне вимкнення — чи можуть установи негайно зупинити систему, якщо вона почне діяти неконтрольовано;
кібербезпека — чи використовують банки ШІ-агентів для реагування на атаки та які захисні механізми для них передбачені.
Регулятори прагнуть з'ясувати, наскільки банки готові до ситуацій, коли автоматизовані системи працюватимуть неправильно або виходитимуть за встановлені межі. Такі інциденти можуть загрожувати конфіденційній інформації клієнтів і коштам фізичних осіб та компаній.
Острах європейських регуляторів
Схожі питання обговорюють у Європі. Банк Англії та Європейський центральний банк занепокоєні можливими наслідками використання передових ШІ-систем для фінансової стабільності.
Регулятори побоюються, що серйозні інциденти можуть статися раніше, ніж очікувалося, а плани відновлення роботи банків виявляться недостатньо ефективними.
Один із керівників великого європейського банку повідомив, що очікує значної шкоди від інцидентів, пов'язаних зі штучним інтелектом, протягом наступних шести місяців.
Голова Банку Англії Ендрю Бейлі раніше закликав до міжнародної співпраці для зменшення ризиків автономних ШІ-систем. У листі до G20 він наголосив на взаємозалежності фінансових установ, технологічних постачальників та інфраструктури різних країн.
«Для фінансової системи найбільш нагальною проблемою є потенційний вплив передового ШІ на кіберризики», — написав Ендрю Бейлі, голова Банку Англії.
На його думку, кіберінциденти можуть поширюватися між країнами через спільну інфраструктуру, технологічних постачальників і міжнародні фінансові операції. Проблеми з безпекою однієї організації потенційно можуть вплинути на інші установи.
Чому занепокоєння щодо ШІ-агентів зростає
Розробники штучного інтелекту самі попереджають про посилення кіберзагроз. Минулого місяця понад 100 компаній, серед яких Google та OpenAI, підписали спільне звернення щодо небезпеки атак із використанням ШІ. У ньому вони попередили, що найближчими місяцями такі атаки можуть стати поширенішими та складнішими.
Окремі банки висловлюють занепокоєння через автономних агентів сторонніх компаній, зокрема споживчого ШІ-асистента Muse від Meta.
Попри занепокоєння щодо безпеки, банки продовжують розвивати власні ШІ-системи.
Тим часом з’являються повідомлення про кіберінциденти за участю автономних ШІ-агентів, зокрема про атаки на компанії в Японії та Південній Кореї.
