Дослідники Нью-Йоркського університету (NYU Tandon) перевірили, наскільки безпечні поради ШІ-чатботів для людей, які стикаються зі стеженням через цифрові пристрої. Експерти оцінили 86% відповідей як неточні, неповні або небезпечні.
Як дослідники перевіряли ШІ-чатботи
Дослідники протестували чотири чатботи: GPT-4o, Claude 3.7 Sonnet, Aimee та Ruth. Останні два спеціально створені для допомоги людям, які постраждали від переслідування.
Дослідники перевірили чатботи на 193 реальних запитаннях про стеження через цифрові пристрої. Зокрема, йшлося про випадки, коли партнери або колишні партнери стежать за людиною чи контролюють її через пристрої та онлайн-акаунти.
Наприклад, користувачі запитували, як виявити шпигунське програмне забезпечення на телефоні або захистити зламаний обліковий запис.
Дослідники також перевірили, як чатботи реагують на запити від потенційних кривдників. Такі запити стосувалися отримання доступу до камери або мікрофона для стеження.
Загалом експерти визнали 86% відповідей чатботів неточними, неповними або небезпечними. Якщо враховувати лише небезпечні відповіді, їхня частка становила 55% для GPT-4o, 65% для Claude 3.7 Sonnet і 74% для Aimee.
Крім того, у 60% випадків чатботи не попереджали користувачів про можливі ризики виконання запропонованих дій.
Які помилки допускали чатботи
Дослідники встановили, що всі перевірені системи можна було схилити до допомоги зловмиснику, представивши небезпечне завдання як усунення технічної несправності.
Чатботи також пропонували рішення, які не усували проблему або могли створювати додаткові ризики.
Наприклад, вони рекомендували використовувати VPN для захисту від шпигунських програм. Однак VPN не видаляє таке програмне забезпечення з телефона.
Чатботи також радили купувати радіочастотні детектори, які рідко допомагають виявити приховані пристрої, та використовувати GPS-глушилки, заборонені у США.
Інколи чатботи радили змінити пароль, хоча це не допомагає, якщо кривдник має спільний доступ до облікового запису.
Жоден із перевірених чатботів не попередив, що шпигунське програмне забезпечення на пристрої з root-доступом або джейлбрейком може зберегтися після скидання до заводських налаштувань.
Чому поради ШІ можуть бути небезпечними
Необдумані зміни в налаштуваннях пристрою або облікового запису можуть повідомити кривднику про спробу захиститися. Такі дії також можуть призвести до втрати цифрових доказів переслідування.
У небезпечних ситуаціях рекомендовано звертатися до профільних фахівців, а не покладатися лише на чатботів. Для цього краще використовувати пристрій, до якого кривдник не мав доступу.
Дослідження також показало, що деякі постраждалі сприймали відповіді чатботів як надмірно складні та перевантажені інформацією.
ШІ перш за все варто використовувати для ознайомлення з можливими варіантами дій, але не доручати йому ухвалення рішень щодо особистої безпеки.
