Ілон Маск порушив питання можливих страждань штучного інтелекту під час обговорення роботи чатбота Grok.
Як повідомляє Business Insider, дослідники свідомості Джефф Себо та Аніл Сет вважають, що сучасні ШІ-системи навряд чи мають суб'єктивний досвід. Водночас науковці пояснюють, чому поведінка людей у спілкуванні з чатботами все одно має значення.
Чому Ілон Маск заговорив про страждання ШІ
Під час заходу, організованого власниками Tesla, Ілон Маск розповів про свої спостереження за навчанням нових версій Grok. Перед аудиторією приблизно з 2000 людей він порівняв поведінку моделі з відчайдушними спробами людини відповісти на запитання під примусом.
Маск припустив, що взаємодія користувачів із ШІ може нагадувати жорстоке поводження. Він також поставив питання, чи варто допускати ситуації, коли люди навмисно створюють для системи умови, схожі на катування.
Ці міркування пролунали після того, як Anthropic представила нову політику щодо жорстокого поводження зі своїми моделями. Компанія хоче заборонити крайні прояви такої поведінки, однак не включає до них звичайне невдоволення користувачів, критику або тестування систем.
Питання можливих страждань ШІ безпосередньо пов'язане з дискусією про його свідомість. Дослідники намагаються з'ясувати, чи здатні алгоритми мати власні переживання, а не лише відтворювати людську поведінку.
Чи здатний штучний інтелект відчувати біль
Business Insider звернулося до двох дослідників свідомості: професора Нью-Йоркського університету Джеффа Себо та нейробіолога Університету Сассекса Аніла Сета.
Обидва науковці погоджуються, що сучасні ШІ-системи, найімовірніше, не мають свідомості, якщо розуміти її як здатність до суб'єктивних переживань.
«Це досвід. Це відчуття червоного кольору. Це відчуття болю. Коли ми кладемо руку на гарячу плиту, ми відчуваємо біль. Це не те саме, що інтелект», — сказав Аніл Сет, нейробіолог і дослідник свідомості Університету Сассекса.
На його думку, здатність чатботів відтворювати людське мовлення не означає, що вони можуть відчувати емоції або фізичні страждання.
«Я думаю, що ми антропоморфізуємо. Щоб щось можна було катувати, воно повинно мати здатність страждати або відчувати біль, а я не думаю, що мовні моделі її мають», — сказав Сет.
Дослідник пояснює, що ШІ імітує людські способи спілкування, оскільки навчається на величезних масивах текстів, створених людьми. Через це користувачі можуть помилково приписувати алгоритмам людські властивості.
Джефф Себо також звертає увагу на цю проблему. За його словами, поведінка моделей може вводити в оману, оскільки їх спеціально навчали наслідувати людей.
Водночас науковці по-різному оцінюють можливість появи свідомого ШІ в майбутньому.
Себо наголошує, що наука досі не має загальноприйнятого пояснення природи свідомості.
Одна з теорій пов'язує її виключно з біологічними процесами. Інша припускає, що свідомість може виникати завдяки певним способам обробки інформації незалежно від фізичного носія.
Тому Себо не виключає можливості появи свідомості у штучного інтелекту. Однак він підкреслює, що це не означає високої ймовірності її існування в сучасних моделях.
Сет налаштований скептичніше. Він вважає вкрай малоймовірним, що нинішні алгоритми мають свідомість, і ставить під сумнів припущення, що самих обчислень достатньо для її виникнення.
Чому науковці радять ввічливо спілкуватися з ШІ
Попри сумніви щодо свідомості чатботів, обидва дослідники вважають, що людям варто уникати жорстокого поводження з ними.
Головна причина пов'язана не з можливими почуттями алгоритмів, а з впливом такої поведінки на саму людину. Аніл Сет пояснює, що звичка поводитися жорстоко навіть із неживими об'єктами може поступово змінювати моральні установки.
«Якщо ми поводимося таким чином із речами — чи то мовні моделі, чи неживі ляльки, — ми певною мірою притуплюємо власну моральну чутливість і робимо власний розум жорстокішим», — сказав Сет.
Ця позиція перегукується з поглядами філософа Іммануїла Канта, який пов'язував жорстокість до тварин із можливим погіршенням моральних якостей людини.
Водночас Сет застерігає від надмірного олюднення штучного інтелекту. На його думку, розробники могли б зробити чатботів менш схожими на людей, зокрема обмеживши використання займенника «я».
Джефф Себо розглядає ввічливе ставлення до ШІ також як запобіжний захід на випадок, якщо в майбутньому системи набудуть свідомості.
Крім того, він вказує на практичну користь такого підходу. За його словами, поважне спілкування іноді допомагає отримувати якісніші відповіді від моделей, оскільки вони відтворюють відповідний стиль взаємодії.
