Штучний інтелект може впливати на те, як люди запам'ятовують події, навіть якщо вони бачили їх на власні очі, повідомляє Washington Post. Дослідники Массачусетського технологічного інституту (MIT) виявили, що змінені ШІ фотографії здатні спотворювати спогади та посилювати впевненість у неправдивих деталях.
Як ШІ змінює спогади людей
Команда Патті Маес дослідила, як зображення, відредаговані штучним інтелектом, впливають на людську пам'ять.
Учасникам експерименту показали серію фотографій. Після перерви частині з них знову продемонстрували ті самі знімки, а іншим — версії, змінені за допомогою штучного інтелекту.
Під час подальшої перевірки пам’яті з’ясувалося, що учасники, які бачили змінені ШІ зображення, частіше неправильно згадували оригінальні фотографії. Окрім того вони також були надмірно впевнені у своїх хибних спогадах.
Це свідчить, що ШІ-контент може впливати не лише на точність спогадів, а й на здатність людини розпізнавати власні помилки.
Людська пам'ять і без впливу штучного інтелекту залишається вразливою до навіювання. Численні експерименти показали, що дезінформація може впливати на рішення людей навіть після спростування неправдивих тверджень.
Розвиток генеративного ШІ посилює цю проблему. Створені алгоритмами зображення та тексти стають дедалі переконливішими й поширюються в інтернеті, ускладнюючи розпізнавання неправдивої інформації.
Чому хибні спогади небезпечні
Дослідження команди MIT не єдине, що вказує на здатність штучного інтелекту впливати на пам'ять.
Інше дослідження, опубліковане минулого року, показало, що дипфейки та згенеровані ШІ тексти можуть формувати хибні спогади про вигадані політичні скандали. У деяких випадках така інформація навіть знижувала наміри учасників брати участь у голосуванні.
Проблема не обмежується навмисною дезінформацією. Генеративні моделі можуть створювати неправдиву інформацію через так звані галюцинації — помилки, які система подає як достовірні факти.
Це створює додаткові ризики для організацій, які використовують ШІ у своїй роботі. Державні установи, банки, лікарні та військові структури дедалі активніше впроваджують такі системи для аналізу інформації та підтримки рішень.
Одним зі способів контролю залишається підхід, коли людина перевіряє результати роботи алгоритму перед їх використанням.
Однак дослідження свідчать, що користувачі не завжди здатні помічати помилки штучного інтелекту. Навіть фахівці можуть змінювати власні судження під впливом відповідей ШІ, якщо ті суперечать уже відомій їм інформації.
Таким чином, людський контроль не гарантує виявлення всіх помилок. Особливо якщо користувач надмірно довіряє системі та починає сумніватися у власних знаннях.
Чи можна захиститися від впливу ШІ на пам'ять
Дослідники шукають способи навчити людей краще розпізнавати матеріали, створені штучним інтелектом. Наразі, за результатами досліджень, пересічна людина визначає їхнє походження з точністю, близькою до випадкового вгадування.
Науковці працюють над методами навчання, які можуть покращити розпізнавання дипфейків та інших синтетичних матеріалів. Однак універсального способу захисту від впливу неправдивої інформації поки немає.
Водночас технологічні компанії розвивають агентні ШІ-системи, здатні виконувати завдання з дедалі меншою участю людини. Це загострює питання надійності автоматизованих рішень, особливо у сферах, де помилки можуть мати серйозні наслідки.
Дослідження пам'яті показують, що навіть присутність людини в процесі перевірки не завжди забезпечує достовірність результату. Адже сама інформація, створена ШІ, може впливати на судження того, хто її перевіряє.
