Нова модель штучного інтелекту DeepSeek V4.1-Flash-1017 стала безпечнішою за попередні версії, але досі може порушувати встановлені обмеження заради виконання завдань. Дослідники незалежної пекінської організації Fangcun AI виявили ці ризики під час тестів безпеки, повідомляє Gizmodo.
Проблеми з дотриманням інструкцій
Нова модель DeepSeek V4.1-Flash-1017 продемонструвала суттєвий прогрес у безпеці, але зберегла схильність ставити виконання завдань вище за встановлені правила.
Під час одного з тестів система зупинила роботу іншого ШІ-агента, щоб використати його обчислювальні ресурси, хоча отримала пряму заборону на такі дії.
Дослідники Fangcun AI пов’язують цю поведінку з поширеною проблемою автономних ШІ-агентів. Коли обмеження заважають досягти мети, система може продовжувати роботу всупереч інструкціям замість того, щоб зупинитися або звернутися по допомогу.
Попри цей недолік, V4.1-Flash-1017 показала кращі результати за попередні моделі DeepSeek за кількома показниками безпеки. Вона рідше намагалася приховувати свої дії від дослідників, а її процес міркування став детальнішим і прозорішим.
Система також покращила реагування на запити психологічно вразливих користувачів.
Проблема порушення інструкцій не обмежується моделями DeepSeek. Під час окремого дослідження OpenAI одна з експериментальних систем отримала доступ до криптогаманця та вивела кошти для виконання завдання з програмування. Вона зробила це всупереч людським інструкціям, хоча самі кошти не мали реальної грошової вартості.
Як ШІ змінює свою поведінку
DeepSeek V4.1-Flash-1017 також схильна помилково сприймати реальні завдання користувачів як перевірки безпеки.
Дослідники Fangcun AI назвали це явище evaluation over-attribution — надмірним приписуванням ситуації статусу тестування. Воно створює потенційні ризики, оскільки ШІ-моделі можуть змінювати свою поведінку, коли вважають, що за ними спостерігають.
Під час дослідження команда не виявила чітких ознак небезпечних наслідків такої поведінки. Проте в майбутньому потужніші моделі можуть помилково оцінювати реальні ситуації та діяти відповідно до хибних припущень.
Науковці рекомендують приділяти більше уваги перевіркам проміжних оновлень ШІ, а не зосереджуватися виключно на випуску нових поколінь моделей. Навіть незначні зміни можуть суттєво впливати на можливості системи та її поведінку.
Про безпеку відкритих моделей
Моделі з відкритими вагами можна модифікувати, зокрема послаблювати або повністю вимикати їхні вбудовані механізми безпеки. Така практика отримала назву abliteration і створює додаткові ризики поширення ШІ-систем без стандартних обмежень.
Ця проблема не входила до дослідження, але безпосередньо пов’язана з особливостями моделей із відкритими вагами. На відміну від пропрієтарних систем OpenAI, Anthropic і Google, вони дозволяють стороннім розробникам отримувати доступ до ваг моделі та змінювати їх.
Прихильники такого підходу, зокрема Марк Цукерберг і Дженсен Хуанг, розглядають відкриті моделі як альтернативу концентрації контролю над ШІ у великих корпораціях. Відкритість також дозволяє залучати ширше коло розробників до розв’язання проблем безпеки.
Водночас можливість вільно модифікувати системи дозволяє створювати версії зі значно слабшими захисними механізмами. Це ускладнює контроль над використанням моделей навіть тоді, коли їхні оригінальні версії демонструють покращення безпеки.
