Nvidia готовит новый чип для ускорения обработки искусственного интеллекта, сообщает WSJ

По данным издания, этот чип будет специализироваться на так называемом инференс-вычислении — обработке запросов и генерации ответов в ИИ-системах, что особенно важно для таких приложений, как чат-боты и другие AI-инструменты. Платформа с новым процессором должна быть представлена на конференции разработчиков GTC в Сан-Хосе в следующем месяце. Разработкой чипа занимался стартап Groq, технология которого будет использоваться в новом устройстве.

Сообщается, что у OpenAI были претензии к существующим аппаратным решениям Nvidia в части скорости генерации ответов на определённые запросы, особенно для задач вроде разработки программного обеспечения и взаимодействия AI с другим ПО. Это побудило OpenAI рассматривать альтернативы, включая сотрудничество с другими компаниями, такими как Cerebras или Groq. Однако Nvidia заключила эксклюзивное лицензионное соглашение на 20 млрд долларов со стартапом Groq, что, по словам источников, положило конец этим переговорам.

В прошлом году Nvidia объявила о планах инвестировать до 100 млрд долларов в OpenAI в рамках более широкого сотрудничества, которое предполагает участие компании в капитале стартапа и помощь ему в закупках передовых чипов.