Meta випустила виправлення для застосунку Muse на macOS після виявлення вразливості нульового дня. За певних умов вона дозволяла зловмиснику отримати контроль над ШІ-агентом, пише The Verge.
Що дозволяла вразливість
Вразливість виявив дослідник безпеки Патрік Вордл. Вона була пов’язана з недокументованим налаштуванням Muse. Локальний шкідливий код міг змінити адресу, на яку Muse надсилав дані для обробки транскрипції.
Замість серверів Meta інформацію можна було перенаправити на сервер зловмисника. Це давало йому доступ до облікового запису Muse.
Виникненню вразливості сприяли кілька особливостей роботи застосунку. Зокрема, диктування Muse оброблялося у хмарі, а не безпосередньо на пристрої. Крім того, інші застосунки могли змінювати недокументовані налаштування Muse.
Під час тестування Вордл створив експериментальні атаки, які використовували цю вразливість. Через Muse йому вдалося робити фотографії та записувати шкідливі файли на диск. У багатьох випадках користувач не отримував попередження про ці дії.
«Ми можемо маніпулювати агентом і використовувати його привілеї, щоб робити все, що захочемо», — сказав Патрік Вордл.
За його словами, замість створення складного шкідливого програмного забезпечення атакувальник міг використати можливості самого ШІ-асистента.
Відповідь Meta
Meta наголосила, що атака не могла виконуватися повністю дистанційно. Для використання вразливості на комп’ютері користувача вже мав працювати шкідливий код під його обліковим записом.
Через цю умову Meta оцінила практичний ризик для користувачів Muse на Mac як досить низький.
«Це була локальна атака з підвищенням привілеїв, а не віддалений експлойт», — сказав Девід Сінглтон із Meta Superintelligence Labs.
Він пояснив, що для завдання шкоди зловмиснику спочатку потрібно було запустити шкідливий код на пристрої користувача. Водночас Meta випустила термінове оновлення застосунку для усунення проблеми.
