Google Cloud представила нове покоління власних ШІ-чипів TPU, розділених на окремі сфери діяльності: для навчання та інференсу моделей.
Два типи TPU та зростання продуктивності
Компанія анонсувала чипи восьмого покоління, які отримали назви TPU 8t і TPU 8i. Перший призначений для навчання (training) моделей, другий — для інференсу (inference).
Google заявляє про втричі збільшену продуктивність нових чипів. Також на 80% зросло значення продуктивності на долар, що, відповідно, знизить витрати для клієнтів.
Компанія зазначає, що понад 1 мільйон TPU можуть працювати разом у межах одного кластера. Очікується, що це забезпечить більше обчислювальних ресурсів із меншим енергоспоживанням.
Співіснування з Nvidia та ринкова стратегія
Google підкреслює, що нові TPU не можуть повністю замінити Nvidia, а скоріше доповнюють інфраструктуру, яка вже використовує GPU.
Компанія також планує представити клієнтам нові чипи Nvidia Vera Rubin пізніше цього року.
Подібну стратегію використовують і інші хмарні провайдери, зокрема Amazon і Microsoft. Аналітики зазначають, що власні чипи можуть зменшити залежність від Nvidia у майбутньому, однак наразі ринок залишається на боці компанії-гіганта.
Партнерство та інфраструктура
Google також співпрацює з Nvidia над оптимізацією мережевих рішень у своїй хмар — розвиває програмну мережеву технологію Falcon, створену Google та відкрито опублікована у 2023 році.
Така співпраця має підвищити ефективність роботи систем на базі GPU у хмарній інфраструктурі.
