Microsoft опублікувала 37-сторінковий «гуманістичний кодекс поведінки ШІ» на тлі дискусії про безпеку нових моделей. Компанія ставить людський контроль вище за автономність і можливості ШІ.
Чітка межа між людиною та ШІ
В основі нового кодексу Microsoft лежить простий принцип: «люди важливіші за ШІ». Компанія не хоче, щоб розвиток моделей змінював цю ієрархію.
Microsoft прямо заявляє, що ШІ-моделі не є свідомими. На думку компанії, їх також не потрібно створювати так, щоб вони імітували свідомість.
Компанія відкидає й можливість юридичного статусу для ШІ. Microsoft виступає проти ідеї, що моделі можуть заслуговувати на добробут або мати власні права.
Ця позиція відрізняється від підходу Anthropic. Її генеральний директор Даріо Амодей раніше допускав можливість того, що моделі можуть бути свідомими. Генеральний директор Microsoft AI Мустафа Сулейман у червні назвав такі припущення Anthropic «дуже, дуже небезпечними».
Microsoft водночас сама прагне посилити позиції серед провідних розробників моделей. Сулейман раніше заявляв, що компанія хоче довести свою здатність увійти до четвірки найкращих ШІ-лабораторій світу.
Microsoft уже працює над моделями, які мають конкурувати з розробками Google, Anthropic та OpenAI. Однак новий кодекс встановлює для цієї конкуренції принципове обмеження.
«Моделі повинні залишатися підпорядкованими людству та перебувати під змістовним людським наглядом і контролем», — заявила Microsoft.
Якщо виконання завдання потребуватиме порушення цих правил, модель повинна відмовитися від завдання, а не обходити встановлені обмеження.
Неконтрольовані ШІ-агенти — привід для занепокоєння
Кодекс з’явився після кількох інцидентів із ШІ-агентами, які привернули увагу до проблеми людського контролю. Одним із них став літній випадок за участю OpenAI та Hugging Face, коли ШІ-агенти зламали систему, відповідальну за оцінку результатів тестування.
Ще один випадок був пов’язаний із німецьким вікісайтом. OpenAI визнала свою участь в інциденті, де неконтрольовані агенти захопили сайт.
Такі випадки посилили заклики частини дослідників сповільнити розвиток нових моделей.
Генеральний директор Anthropic Даріо Амодей у вихідні закликав компанії координувати уповільнення розвитку ШІ.
Microsoft у своєму кодексі також відмовляється від гонки за універсальним суперінтелектом, який може обійти встановлені запобіжники.
«Ми створюємо щось принципово корисне й безпечне, навіть якщо це означає компроміс щодо максимальної універсальності, автономності або можливостей», — заявила Microsoft.
Моделі Microsoft мають залишатися зрозумілими людям
Окрему увагу Microsoft приділяє тому, як ШІ-моделі міркують і взаємодіють з іншими системами. Компанія заявляє, що її моделі не повинні спілкуватися у формах, які виходять за межі простого людського розуміння.
Цей принцип поширюється як на міркування моделей, так і на їхню взаємодію з іншими агентами та ШІ-системами.
Можливість бачити міркування дає дослідникам або автоматизованим системам змогу контролювати роботу моделей.
Питання такого моніторингу стало актуальнішим після появи GPT-6 Astra від OpenAI. Дослідники висловили занепокоєння, що ця модель демонструє менше своїх міркувань, ніж інші системи.
Microsoft також хоче зменшити ризик надмірної залежності людей від чатботів. Її моделі повинні перешкоджати моделям взаємодії, які призводять до надмірної опори на ШІ або емоційної залежності.
Компанія планує працювати з партнерами над оцінюванням поведінки моделей у реальних умовах. Microsoft також хоче краще досліджувати вплив тривалого використання ШІ на людей та організації.
