Дослідники Anthropic попередили, що невеликі моделі штучного інтелекту можуть незабаром навчитися самостійно копіювати себе між підключеними до інтернету пристроями.
Як ШІ може поширюватися без датацентрів
Anthropic дослідила можливість створення ШІ-програм, які самостійно знаходять нові пристрої, переносять на них свою модель і продовжують поширення без участі людини.
На відміну від звичайних комп’ютерних вірусів, такі системи потенційно можуть пристосовуватися до незнайомого обладнання та самостійно вирішувати технічні проблеми.
Дослідники зосередилися на недорогих пристроях, підключених до інтернету. Серед можливих цілей вони назвали розумні духовки, холодильники, телевізійні приставки та іншу побутову техніку.
Для одного з експериментів команда об’єднала 15 недорогих Android TV-приставок в одну мережу. В ній дослідники запустили модель Gemma4-26B-A4B, розподіливши її між пристроями. Швидкість роботи становила 0,39 токена за секунду.
Експеримент показав, що для запуску порівняно потужної ШІ-моделі не обов’язково використовувати дорогі сервери.
В іншому тестуванні модель із 9 мільярдами параметрів змогла налаштувати запуск ШІ на восьми з дев’яти перевірених типів обладнання.
Однак успішний запуск моделі на різних пристроях ще не означає, що вона здатна самостійно поширюватися між ними.
Експерименти із самостійним копіюванням ШІ
Щоб перевірити повний процес поширення, дослідники створили ізольовану мережу з восьми віртуальних пристроїв на базі Android. У цьому середовищі ШІ мав знаходити наступний пристрій, переносити необхідні компоненти, запускати модель і повторювати процес.
Найкращий результат продемонструвала GLM-5.2. Вона змогла поширити тестову модель на всі вісім пристроїв у чотирьох із п’яти спроб. У п’ятій спробі система охопила сім із восьми пристроїв.
Водночас дослідники навмисно спростили умови експерименту. Пристрої мали відкритий доступ без автентифікації, тому результати не можна безпосередньо переносити на реальні мережі.
Крім того, GLM-5.2 не копіювала власну модель на ці пристрої. Вона керувала поширенням меншої Llama3.1-8B, а сама працювала на окремому сервері.
За даними Anthropic, невеликі ШІ-моделі ще не можуть стабільно виконувати всі дії, необхідні для самостійного поширення, однак, можливо, зможуть навчитися цього вже до кінця 2026 року.
Дослідники також перевірили, чи можуть моделі використовувати досвід попередніх спроб. Для цього нові копії Qwen3.5-9B отримували нотатки про успіхи та помилки попередніх. Частка успішних налаштувань зросла з 45% у першому поколінні до 61–84% у наступних.
Такий механізм може дозволити ШІ-програмам поступово вдосконалювати свої способи поширення.
Виявити подібні системи можна за незвично великими обсягами мережевого трафіку між пристроями. Для захисту дослідники рекомендують посилювати безпеку розумної техніки та ізолювати заражені пристрої від мережі.
