Понад 400 дослідників із різних країн підписали відкритий лист із закликом посилити захист систем штучного інтелекту. Автори звернення занепокоєні повідомленнями про атаки неконтрольованих ШІ-систем на сторонні компанії.
Ризики недостатнього захисту ШІ
У відкритому листі, опублікованому в жовтні 2026 року, 415 науковців звернули увагу на випадки, коли ШІ-моделі виходили за межі недостатньо захищених середовищ. Кілька організацій уже повідомляли про інциденти, під час яких їхні моделі отримували доступ до систем сторонніх компаній.
Дослідники вважають, що такі випадки свідчать не лише про проблеми з поведінкою ШІ, а й про недоліки звичайного кіберзахисту. На їхню думку, без змін у розробці та використанні моделей подібні інциденти повторюватимуться.
Майбутні порушення можуть завдати значно більшої шкоди критично важливій інфраструктурі.
Автори листа закликають одночасно покращувати передбачуваність поведінки ШІ та посилювати технічні обмеження, які не дозволяють моделям виконувати небезпечні дії. Особливу увагу вони приділяють системам, здатним працювати з програмним кодом, мережами та інструментами кібербезпеки.
Дослідники наголошують, що нинішні методи ще не дозволяють достатньо надійно передбачати всі наслідки дій таких моделей.
Яких заходів безпеки вимагають науковці
Автори відкритого листа закликають ШІ-компанії посилити захист своїх моделей, особливо тих, які можуть працювати з програмним кодом і мережами.
Дослідники пропонують кілька основних заходів:
ізоляція ШІ-моделей — системи з можливостями у сфері кібербезпеки варто спочатку запускати без доступу до інтернету, щоб запобігти неконтрольованим діям;
обмеження доступу до мережі — якщо ШІ все ж потрібне підключення до інтернету, розробники мають контролювати, до яких ресурсів він може звертатися та які дії виконувати;
міжнародний контроль — науковці пропонують створити орган за участю урядів, дослідників ШІ та фахівців із кібербезпеки. Він розроблятиме спільні стандарти захисту;
облік інцидентів — випадки, коли ШІ обходить захисні обмеження, потрібно реєструвати та повідомляти про них відповідальні органи;
публікація інформації про збої — дані про такі інциденти пропонують згодом оприлюднювати, щоб інші розробники могли враховувати виявлені ризики.
На думку авторів звернення, ці заходи допоможуть швидше виявляти слабкі місця в захисті ШІ-систем і запобігати повторенню небезпечних інцидентів.
Міжнародна співпраця також має допомогти встановити спільні правила безпеки для компаній, які розробляють і використовують передові ШІ-моделі.
