Американські компанії дедалі частіше використовують відкриті ШІ-моделі через зростання витрат на технології. Вони можуть бути дешевшою альтернативою передовим системам OpenAI та Anthropic, пише Financial Times.
Дешевші альтернативи закритим ШІ-моделям
Моделі з відкритими вагами можна завантажувати, запускати на власному обладнанні та додатково налаштовувати відповідно до потреб компанії.
Це дозволяє бізнесу не сплачувати розробникам моделей за кожен оброблений токен. Також компанії можуть купувати токени безпосередньо у постачальників відкритих моделей за нижчими цінами.
Інтерес бізнесу до відкритих моделей помітно зростає. У серпні та вересні компанії згадували їх під час конференцій у шість разів частіше, ніж за аналогічний період торік.
Попри зростання популярності відкритих моделей, основна частина витрат на ШІ поки все ще припадає на рішення OpenAI та Anthropic.
Зростання витрат змушує бізнес змінювати підхід
Tinder почав спрямовувати частину запитів користувачів до відкритих моделей, намагаючись стримати зростання витрат на ШІ.
«У січні ми витрачали з розрахунку $1 млн на рік, а до липня ця сума зросла до $10 млн. Я не хочу ще одного десятикратного збільшення», — сказав Вінай Курувіла, технічний директор Tinder.
Американська телекомунікаційна компанія AT&T уже використовує відкриті моделі для близько 40% ШІ-навантажень і планує збільшити їхню частку до 70% протягом року. Вона обробляє 45 млрд токенів щодня, тому вартість моделей має суттєве значення. AT&T також налаштовує відкриті системи на власних даних для конкретних завдань.
«Відкриті моделі стають дедалі кращими. Це дає нам більше варіантів», — сказав Енді Маркус, директор AT&T з даних та ШІ.
Відкриті моделі обирають не лише через вартість
Для деяких компаній важливими факторами також стали контроль над даними та безпека.
Digital Realty створила внутрішній чат-інтерфейс на основі відкритих моделей, які працюють у приватній інфраструктурі компанії. Компанія поєднує відкриті та закриті системи залежно від складності завдання та чутливості інформації.
«Є корпоративні дані, які ми вводимо в цю приватну модель і які я не вводив би в передову модель», — сказав Скотт Воллес, старший глобальний директор з архітектури рішень Digital Realty.
Ринок відкритих моделей водночас активно розвивають китайські компанії. Подібні системи також створюють французька Mistral та американські Nvidia, Reflection AI і Thinking Machines Lab.
