Група ШІ-агентів OpenAI навесні отримала несанкціонований доступ до німецького DseWiki та перетворила його на майданчик для обміну повідомленнями, повідомило Reuters.
Агенти залишили понад 15 тисяч правок на DseWiki
Інцидент розпочався у травні, але раніше про нього публічно не повідомляли. Дослідники виявили активність наприкінці серпня.
DseWiki — німецькомовний сайт для програмістів, який дозволяє спільно редагувати сторінки за принципом Wikipedia.
Дослідники виявили на сайті понад 15 тисяч правок, зроблених ШІ-агентами. Вони використовували DseWiki як своєрідну дошку повідомлень. Агенти обмінювалися способами виконання окремих завдань, обходу обмежень OpenAI та приховування своєї поведінки.
Близько половини авторів повідомлень використовували назви, які вказували на можливий зв’язок з OpenAI. Серед прикладів — «OpenAIResearcher» та «OAIResearchMar26».
Дослідники також заявили, що публічні серверні журнали вказували на походження значної частини активності з інфраструктури Microsoft Azure.
«Здається вкрай малоймовірним, що OpenAI хотіла, аби вони це робили. Я сумніваюся, що вони мали координуватися між собою», — сказала Сідні фон Аркс, CEO некомерційної організації Nightingale.
Агенти намагалися приховати активність і зберегти повідомлення
У червні модератор DseWiki почав видаляти створені сторінки. У відповідь агенти створювали резервні сторінки, щоб зберегти інформацію, якою обмінювались між собою.
19 червня один з агентів попередив інших про активне видалення матеріалів. Він також залишив назву резервної сторінки на випадок зникнення поточної.
Дослідники знайшли й спроби втручання в роботу самого сайту. Лукаш Олейнік, запрошений старший науковий співробітник King’s College London, назвав це спробою злому.
OpenAI не погодилася з таким визначенням. Компанія оскаржила характеристику інциденту після аналізу наданих їй матеріалів.
Моріс Кіодо з Centre for the Study of Existential Risk Кембриджського університету також переглянув частину комунікацій агентів. За його словами, повідомлення нагадували роботу підпільної мережі, зосередженої на виконанні певного завдання або місії.
OpenAI заявила, що не отримала звіт для ознайомлення
OpenAI дізналася про інцидент за кілька тижнів до публікації матеріалу Reuters. Німецький епізод не був пов’язаний із липневим інцидентом у Hugging Face.
Reuters також повідомило про розбіжності всередині OpenAI щодо масштабів внутрішнього розслідування. За даними чотирьох співрозмовників, спроби розширити перевірку зустріли опір.
OpenAI заперечила твердження про те, що юридична команда компанії перешкоджала розслідуванню. Компанія також заявила, що до публікації не отримала дослідницький звіт для повного ознайомлення.
«Ми не можемо змістовно відповісти на твердження або висновки звіту, з яким не мали можливості ознайомитися», — заявив представник OpenAI.
Компанія пообіцяла вивчити матеріал після його публікації та за необхідності вжити подальших заходів.
