Розвиток генеративного ШІ спрощує проведення кібератак на енергетичну інфраструктуру, значна частина якої працює на застарілому обладнанні, пише The Verge. Експерти з кібербезпеки попереджають, що ШІ дозволяє навіть менш досвідченим зловмисникам швидше знаходити та використовувати вразливості.
Генеративний ШІ спрощує кібератаки
Експерти з кібербезпеки більше занепокоєні використанням генеративного ШІ зловмисниками, ніж самостійними атаками неконтрольованих ШІ-агентів.
За словами Джошуа Кормана з Institute for Security and Technology, технологія посилює можливості людей, які хочуть атакувати цифрову інфраструктуру.
«Буквально будь-яка соціопатична людина, яка хоче [атакувати], тепер має більше можливостей, ніж раніше», — сказав він.
Корман назвав ШІ інструментом, який посилює можливості зловмисників. Особливо це стосується людей, яким раніше бракувало спеціалізованих знань.
Він пояснив, що великі мовні моделі можуть знати протоколи, мережі та принципи роботи операційних технологій завдяки опрацьованій технічній документації.
Раніше однією з головних кіберзагроз для критичної інфраструктури вважали державних зловмисників. ШІ знижує рівень технічних знань, необхідних для проведення ефективної атаки.
Софі Макдавелл із Center on Cyber and Technology Innovation також вказує на різницю у швидкості між атакою та захистом:
«Справжня відмінність ШІ полягає в тому, що він дозволяє противникам рухатися швидше, але захисникам інфраструктури дуже складно відповідати такому темпу».
Застаріле обладнання ускладнює захист
Значна частина критичної енергетичної інфраструктури спочатку не була розрахована на підключення до інтернету. Електростанції можуть працювати десятиліттями, тому їхнє обладнання створювали без урахування сучасних кіберзагроз.
Згодом значну частину енергетичної інфраструктури підключили до мереж для дистанційного моніторингу та керування обладнанням. Однак це створило додаткові можливості для кібератак, а усувати вразливості в застарілих системах складно.
Деякі виробники обладнання, яке досі використовують в енергетиці, вже припинили діяльність. Через це для окремих пристроїв немає компаній, які могли б створювати програмні виправлення.
Навіть за наявності оновлення його не завжди можна швидко встановити. Системи операційних технологій керують фізичним обладнанням і мають інші вимоги, ніж звичайні IT-системи.
Деякі з них розраховані на встановлення оновлень лише раз на квартал або рік. Невеликим комунальним підприємствам також може бракувати персоналу, ресурсів і технічної експертизи.
Водночас захист від атак залишається подібним незалежно від того, чи використовує нападник штучний інтелект.
«З ШІ чи без нього, зрештою це все одно кібератака», — сказав Роб Денабург, старший менеджер програми кібербезпеки American Public Power Association.
За його словами, ШІ може допомагати поєднувати кілька вразливостей та автоматизувати окремі етапи атаки. Однак її можна зупинити, заблокувавши один з етапів.
Обмежене підключення критичних систем
Для зменшення ризику кібератак енергетичні компанії можуть переводити окремі системи на ручне керування та обмежувати зв’язки між елементами критичної інфраструктури.
Софі Макдавелл вважає, що відповідальність також несуть уряди та компанії, які розробляють передові моделі штучного інтелекту. За її словами, для досліджень ядерних технологій і небезпечних матеріалів існують регуляторні обмеження. Аналогічних механізмів для ШІ поки немає.
«Це технологічна та наукова розробка, яка може створити потенційний ризик для систем критичної інфраструктури та загрозу людському життю. Тому обмеження потрібні», — сказала Софі Макдавелл.
Водночас вона зазначила, що регулювання не має зупиняти дослідження.
На початку вересня OpenAI оголосила про виділення $1 млрд на субсидування навчання та доступу до нових моделей для захисту критичної інфраструктури.
Корман застеріг від надмірної залежності від ШІ-агентів для протидії іншим ШІ-системам. Обидві сторони можуть бути складними для контролю в операційному середовищі критичної інфраструктури.
