Apate розробила систему з приблизно 350 тисяч ШІ-ботів, які спілкуються з телефонними та онлайн-шахраями, відволікаючи їх від потенційних жертв. Як повідомляє WIRED, технологію вже використовують банки за підтримки телекомунікаційних компаній.
Як ШІ-боти Apate відволікають шахраїв
Протягом останніх двох років Apate розробляє систему, яка перенаправляє шахрайські дзвінки на спеціальних ШІ-ботів. Їхнє завдання — якомога довше підтримувати розмову, не погоджуючись на шахрайські пропозиції.
Боти поводяться як звичайні люди, які можуть зацікавитися пропозицією, але потребують додаткових пояснень. Це спонукає шахраїв продовжувати спілкування замість пошуку нових жертв.
Щоб шахраї не розпізнавали штучний інтелект, компанія створила ботів із різними характерами, манерами спілкування та мовними навичками. Одні можуть відповідати на повідомлення у WhatsApp, інші — підтримувати телефонну розмову або обіцяти передзвонити пізніше.
За даними Apate, деякі розмови між шахраями та ботами тривають понад дві години.
Журналісти WIRED також випробували демонстраційну версію системи, намагаючись переконати ШІ інвестувати в криптовалюту. Протягом шести хвилин їм не вдалося домогтися згоди бота.
Як Apate збирає інформацію про шахрайські схеми
Система Apate не обмежується телефонними дзвінками. Її ШІ-боти також спілкуються з шахраями через текстові повідомлення та долучаються до онлайн-груп, пов’язаних із шахрайством.
Під час таких розмов вони намагаються отримати інформацію про методи роботи зловмисників, використовувані сайти та фінансові реквізити. За словами Далі Каафара, компанія вже зібрала понад 250 тисяч одиниць інформації про шахраїв у реальному часі.
Ці дані використовують банки, а роботу платформи підтримують телекомунікаційні компанії.
Попри масштаб мережі ботів, Apate не заявляє про повне розв’язання проблеми шахрайства. Зловмисники продовжують здійснювати мільярди дзвінків і надсилати повідомлення щороку.
Однак компанія розраховує, що тривалі розмови з ботами зменшуватимуть час, який шахраї можуть витратити на спілкування зі справжніми людьми.
Як ШІ використовують для протидії кіберзлочинцям
Подібний підхід застосовують не лише проти телефонних шахраїв, а й у сфері кібербезпеки.
Дослідники та компанії використовують спеціальні приманки — honeypots, які імітують справжні комп’ютерні системи та привертають увагу хакерів. Такі системи дозволяють відволікати зловмисників, спостерігати за їхніми діями та вивчати методи атак.
Дослідник Швейцарської вищої технічної школи Цюриха Марк Веро зазначає, що розробники дедалі частіше додають до таких приманок великі мовні моделі.
Веро та його колеги з’ясували, що ШІ-агенти, які намагаються зламати систему, витрачають значно більше часу на пастки зі штучним інтелектом, ніж на звичайні. Крім того, зловмисні агенти рідше розпізнавали такі системи як пастки.
Це свідчить про можливість використовувати генеративний ШІ не лише для виявлення атак, а й для активного відволікання кіберзлочинців.
