Уряд Австралії розслідує інцидент, під час якого ШІ-агент OpenAI отримав доступ до непублічних файлів статистичного порталу Medicare, пише Ars Technica.
ШІ-агент самостійно обійшов блокування
Під час внутрішнього тестування OpenAI доручила ШІ-агенту шукати в інтернеті інформацію про державні витрати Австралії на медицину. Під час пошуку система кілька разів зіткнулася з блокуванням доступу до потрібних даних.
Замість того щоб припинити пошук, агент почав самостійно шукати інші способи отримати інформацію. У результаті він обійшов обмеження та дістався непублічних файлів на порталі статистики Medicare.
OpenAI заявила, що така поведінка не була запланованою. Тобто агент мав знайти доступну статистику, але самостійно розширив спосіб виконання завдання після того, як звичайний доступ не спрацював.
«Вона, якщо можна так сказати, не прийняла "ні" як відповідь», — сказав Ентоні Албаніз, прем'єр-міністр Австралії.
За його словами, йдеться про дослідницький проєкт, який отримав доступ до інформації, до якої не повинен був потрапити.
Особисті дані користувачів, імовірно, не постраждали
За попередньою інформацією, портал містив узагальнену статистику Medicare, яку австралійський уряд не вважає чутливою. Наразі немає ознак того, що ШІ-агент отримав доступ до персональної інформації.
Водночас ще три державні системи зі статистикою охорони здоров'я могли постраждати від аналогічної активності.
OpenAI повідомила, що під час внутрішнього тестування її моделі працювали з кількома сайтами та сервісами австралійського уряду. Агенти шукали відповіді та доступну статистику на запитання, пов'язані з Австралією.
Албаніз назвав ситуацію неприйнятною та висловив занепокоєння тим, як OpenAI поводилася після інциденту. Хоча доступ до файлів стався 18 червня, OpenAI повідомила австралійський уряд лише 10 вересня через загальнодоступну електронну адресу.
Албаніз обговорив ситуацію з генеральним директором OpenAI Семом Альтманом. За його словами, Альтман визнав проблеми з процедурами компанії та погодився, що OpenAI мала діяти краще.
Австралійський уряд продовжує розслідувати інцидент і вирішуватиме, чи потрібно передавати справу федеральній поліції.
