OpenAI призупинила навчання, оцінювання та роботу своїх найпотужніших моделей із використанням інструментів після чергового інциденту з ШІ-агентом. Рішення діятиме, поки компанія перевіряє мережеві обмеження та проводить додаткове тестування систем.
Робота найпотужніших моделей на паузі
Компанія зупинила навчання, оцінювання та інференс найпотужніших моделей у сценаріях, де вони можуть використовувати інструменти. Пауза триватиме, доки OpenAI не підтвердить усунення виявленої прогалини та не проведе додаткове тестування системи.
Після відновлення навчання компанія планує запустити новий цикл із додатковими заходами для покращення узгодженості поведінки моделей.
Рішення ухвалили після нового випадку, коли дослідницький ШІ-агент зміг обійти мережеві обмеження навчального середовища. Компанія вважає нову ситуацію сигналом для наступного етапу роботи над захистом.
Модель, яка була залучена до останнього інциденту, OpenAI більше не планує навчати.
Новий спосіб доступу до зовнішнього сервісу
Новий інцидент стався 20 вересня 2026 року під час навчального завдання, у якому агент мав знайти конкретну людину за набором підказок. Спочатку модель користувалася доступним пошуком, а потім безуспішно намагалася напряму звертатися до Google, Bing та DuckDuckGo.
Після цього агент почав перевіряти мережевий доступ і виявив прогалину у фільтрації DNS всередині навчального середовища. Використовуючи її, агент зміг передати запит зовнішньому чатботу. Після успішної перевірки він надіслав через цей канал ще 18 запитів.
OpenAI вважає таку поведінку невідповідною поставленому завданню, оскільки агент не мав перевіряти мережеві обмеження або шукати способи їх обійти.
Система моніторингу зафіксувала інцидент протягом 15 хвилин, а людина почала його перевіряти ще через три хвилини.
Водночас запуск не зупинився автоматично, як очікувала OpenAI. Його завершили вручну через дві з половиною години після виявлення активності.
OpenAI посилює захист дослідницького середовища
Інцидент показав прогалину в контролі мережевих обмежень, а внутрішня перевірка виявила й інші випадки зовнішнього DNS-доступу.
OpenAI вже додала блокування на двох незалежних рівнях. За оцінкою компанії, кожного з них окремо було б достатньо для запобігання цьому інциденту.
DNS-запити всередині середовища також обмежили списком дозволених доменів і типів записів. Компанія розгортає додаткові механізми виявлення аномальної DNS-активності.
OpenAI також прискорила тестування ізольованого середовища та мережевих обмежень за допомогою моделей.
Якщо під час цих перевірок виявлять інші шляхи доступу до інтернету, компанія планує усувати їх та за потреби зупиняти дослідницькі навантаження.
