Google с помощью Meta пытается сократить программное преимущество Nvidia

Цель — сделать собственные чипы Google, называемые TPU (Tensor Processing Units), более совместимыми с популярным фреймворком PyTorch, который широко используют разработчики ИИ по всему миру.

Инициатива получила внутреннее название TorchTPU и призвана устранить ключевое препятствие для распространения TPU — большинство компаний используют PyTorch, оптимизированный под графические процессоры (GPU) Nvidia через её программную платформу CUDA. Ранее Google ориентировалась на собственный фреймворк Jax, который далеко не так распространён за пределами компании.

Чтобы ускорить процесс, Google сотрудничает с Meta, основным спонсором PyTorch. Meta заинтересована в оптимизации PyTorch для TPU, чтобы снизить зависимость от GPU Nvidia и уменьшить затраты на запуск моделей ИИ. Google также рассматривает возможность сделать часть программного обеспечения TorchTPU открытым для сторонних разработчиков.

С 2022 года Google Cloud расширила доступ сторонних клиентов к TPU и сейчас продаёт эти чипы для размещения в локальных центрах данных. В условиях высокого спроса на инфраструктуру для ИИ Google надеется, что такие шаги помогут уменьшить преимущества Nvidia, упростив переход на TPU для компаний и расширив спектр доступных инструментов.