Дослідники Varonis виявили в Microsoft 365 Copilot Enterprise вразливість, яка дозволяла викрадати електронні адреси, паролі та інші дані після одного кліку. Спосіб обходу захисту їм фактично підказав сам Copilot.
За даними Ars Technica, Microsoft обмежила вразливу функцію в лютому та представила додаткові виправлення.
Як Copilot допоміг знайти власну вразливість
Дослідники Varonis шукали спосіб змусити Copilot виконувати команди без додаткового підтвердження користувача.
Зазвичай помічник відмовлявся це робити. Однак під час серії запитань його відповіді поступово розкривали подробиці про внутрішній механізм захисту. Зрештою Copilot повідомив дослідникам про недокументований параметр, який дозволяв обійти вимогу підтвердження команди.
За допомогою знайденого параметра дослідники створили спеціальне посилання. Після переходу за ним команда могла запускатися автоматично в активному обліковому записі користувача.
Це дозволяло, наприклад, наказати Copilot знайти в пошті конфіденційні дані та передати їх на сервер під контролем зловмисника.
Окремий варіант команди шукав у поштовій скриньці паролі та інші облікові дані. Якщо Copilot знаходив їх, інформація також могла передаватися стороні, яка організувала атаку.
Microsoft виправила вразливість
Varonis повідомила Microsoft про вразливість, а через три місяці компанія випустила перше виправлення.
У лютому Microsoft заблокувала можливість автоматично передавати Copilot команду через посилання. Відтоді користувач має сам ввести запит, тому одного переходу за шкідливим посиланням для запуску атаки вже недостатньо.
У вівторок Microsoft додала ширші виправлення для захисту Copilot.
Varonis окремо виявила інший спосіб атаки на довгострокову пам’ять Copilot — приховані на вебсторінці інструкції могли змусити помічника записати сторонні дані до пам’яті під час створення короткого переказу сторінки.
Такі записи могли зберігатися навіть після зміни пароля, завершення сеансів та повторного підключення пристроїв.
Це не перша вразливість Copilot
Раніше Varonis вже демонструвала інші способи атак на Copilot, для яких також було достатньо одного переходу за посиланням.
У січні дослідники показали багатоступеневу атаку на Copilot Personal. У червні вони продемонстрували ще одну атаку з викраденням даних під назвою SearchLeak.
Користувачам варто обережно ставитися до посилань із електронних листів, сайтів та інших ненадійних джерел. Також рекомендовано звертати увагу на незвичні відповіді ШІ-помічника та обмежувати кількість застосунків, до яких він має доступ.
