Після багатьох років виробництва мікросхем, здатних як навчаати моделі штучного інтелекту, так і виконувати обробку запитів, Google вирішила розділити ці завдання на окремі процесори, щоб конкурувати з Nvidia у сфері апаратного забезпечення для штучного інтелекту.
Google оголосила в середу, що змінює свій підхід у восьмому поколінні своїх тензорних процесорів, або TPU. Обидва чіпи стануть доступними пізніше цього року.
«З появою агентів штучного інтелекту ми виявили, що спільнота виграє від мікросхем, які спеціалізуються на потребах навчання та обробки запитів», — зазначив Амін Вахдат, старший віце-президент Google та головний технолог з AI та інфраструктури, у блозі.
У березні Nvidia представила нові мікросхеми, які дозволять моделям швидко реагувати на запитання користувачів, завдяки технологіям, отриманим у рамках угоди з компанією Groq на 20 мільярдів доларів. Google є великим клієнтом Nvidia, але пропонує TPU як альтернативу компаніям, які користуються її хмарними послугами.
Кілька провідних технологічних компаній світу займаються розробкою спеціалізованих напівпровідників для штучного інтелекту, щоб максимально підвищити ефективність та створити пристрої для специфічних випадків використання. Apple вже багато років інтегрує компоненти нейронних мереж у свої власні чіпи для iPhone. У січні Microsoft оголосила про випуск другого покоління чіпів для штучного інтелекту. А минулого тижня Meta заявила, що працює з Broadcom над розробкою кількох моделей процесорів для AI.
Google займала передові позиції у цій тенденції. У 2015 році компанія почала використовувати процесори, які самостійно розробила для роботи з AI-моделями, а з 2018 року почала надавати їх в оренду хмарним клієнтам. Amazon Web Services оголосила про випуск чіпа Inferentia для обробки AI-запитів у 2018 році, а в 2020 році представила процесор Trainium для навчання AI-моделей.
Аналітики DA Davidson оцінюють, що ринок TPU, разом із групою AI Google DeepMind, коштуватиме близько 900 мільярдів доларів.
Використання AI-чіпів Google зростає. Компанія Citadel Securities розробила програмне забезпечення для кількісних досліджень, яке використовує TPU Google, а усі 17 національних лабораторій Міністерства енергетики США використовують програмне забезпечення AI-косайентів, основане на цих чіпах. Anthropic зобов’язалася використовувати кілька гігават потужності TPU Google.