OpenAI недовольна некоторыми чипами Nvidia и ищет альтернативы
Это может осложнить отношения между OpenAI и Nvidia — двумя ключевыми игроками в быстрорастущей индустрии ИИ.
Проблема для OpenAI заключается не в обучении больших моделей — в этой области Nvidia остаётся доминирующей благодаря своим графическим процессорам (GPU) — а в инференсе — то есть в том, как ИИ отвечает на запросы пользователей. По мнению источников, оборудование Nvidia работает недостаточно быстро при выполнении задач типа генерации программного кода или взаимодействия ИИ с другими программами, где скорость ответа особенно важна. OpenAI считает, что в будущем порядка 10 % её вычислительных нужд для инференса потребуют нового, более быстрого оборудования.
В связи с этим OpenAI вёл переговоры с производителями альтернативных чипов, включая стартапы Cerebras и Groq, а также заключил сделки с AMD на поставку GPU, которые конкурируют с продуктами Nvidia. Однако переговоры с Groq были прерваны после того, как Nvidia заключила лицензионную сделку с этой компанией на сумму около $20 млрд.
Хотя Nvidia пока по‑прежнему обеспечивает большинство вычислительных мощностей для инференса OpenAI, в компании признают, что ищут пути улучшения производительности. В свою очередь Nvidia заявила, что её продукты продолжают быть лучшими по соотношению производительности и стоимости при масштабном использовании.
Это изменение стратегии происходит на фоне более долгих, чем ожидалось, переговоров о потенциальной крупной инвестиции Nvidia в OpenAI, первоначально объявленной в сентябре прошлого года, но до сих пор не завершённой.