OpenAI показала первые результаты Jalapeño — собственного чипа для работы моделей
По словам OpenAI, её чип Jalapeño запускает модели быстрее и тратит меньше энергии: у него выше пропускная способность и ниже задержка.
У OpenAI есть собственный чип для ИИ, и компания впервые показала, на что он способен. Чип называется Jalapeño. Он предназначен для инференса — этап, когда уже обученная модель отвечает на запросы пользователей.
OpenAI утверждает, что по скорости и энергоэффективности Jalapeño лучше всех в отрасли. Компания пишет, что чип обрабатывает больше запросов одновременно и отвечает с меньшей задержкой. По её словам, всё это касается и современных моделей.
Инференс — главная статья расходов, когда миллионы людей каждый день пользуются ChatGPT и API. Недавно OpenAI искала скорость на чужом оборудовании. В середине августа она показала режим Ultrafast, в котором GPT-5.6 Sol работает на чипах Cerebras. Ещё раньше компания рассказывала, как снижает стоимость инференса для GPT-5.6. Собственный чип — следующий шаг в том же направлении: так меньше зависишь от поставщиков.
Оценки пока даёт сама OpenAI. Какие цифры стоят за словами «лучший в отрасли» и с чем компания сравнивала свой чип, в анонсе не говорится.