OpenAI представила свій перший кастомний AI-чип Jalapeno, розроблений спільно з Broadcom для виконання завдань штучного інтелекту.
Чип уже проходить випробування
OpenAI та Broadcom повідомили, що компанія отримала перші зразки Jalapeno та розпочала тестування їхньої роботи з ШІ-навантаженнями.
За словами генерального директора Broadcom Хока Тана, попередні результати демонструють приблизно 50% економію витрат порівняно зі стандартними графічними процесорами, які використовуються для штучного інтелекту.
Очікується, що фінальна версія чипа почне використовуватися в датацентрах Microsoft та інших партнерів уже наприкінці цього року.
Зменшення залежності від Nvidia
Попри активне використання прискорювачів Nvidia, OpenAI поступово диверсифікує постачальників обладнання для ШІ-інфраструктури.
Компанія вже уклала багатомільярдні угоди з AMD і Cerebras Systems, а у жовтні оголосила про співпрацю з Broadcom для створення власних ШІ-прискорювачів.
За даними Bloomberg, OpenAI планує витратити десятки мільярдів доларів на чипи Broadcom для розвитку власної інфраструктури.
Jalapeno створений для великих мовних моделей
У компанії зазначають, що чип проєктувався з урахуванням потреб великих мовних моделей і сценаріїв інференсу — етапу, коли модель генерує відповіді на запити користувачів.
Водночас OpenAI наголошує, що Jalapeno залишається універсальним рішенням, здатним підтримувати майбутні покоління ШІ-моделей. За словами розробників, чип забезпечує значно кращу енергоефективність порівняно з сучасними рішеннями.
Наступне покоління чипів — у 2028 році
Broadcom і OpenAI вже сформували дорожню карту розвитку проєкту. Наступну версію ШІ-прискорювача планують випустити у 2028 році, після чого нові покоління чипів можуть з’являтися щороку.
У Broadcom вважають, що з часом усі провідні розробники фундаментальних ШІ-моделей створюватимуть власні спеціалізовані прискорювачі для оптимізації продуктивності та витрат.
