OpenAI показала Jalapeno — чип дешевле и быстрее Nvidia GB300

Несколько месяцев назад OpenAI анонсировала Jalapeno — собственный ИИ-чип, разработанный совместно с Broadcom. На этой неделе компания впервые поделилась результатами первых испытаний, подтвердив, что новый чип действительно соответствует ожиданиям. По сравнению с актуальным решением Nvidia GB300 с архитектурой Blackwell, Jalapeno продемонстрировал более высокую удельную производительность на каждый потребляемый ватт, а также меньшие задержки при генерации ответов от ИИ-моделей. Такой подход позволяет стартапу рассчитывать на значительное снижение операционных затрат уже в ближайшем будущем.

По словам Ричарда Хо, директора OpenAI по разработке чипов, новый аппаратный продукт компании показывает лучшие результаты сразу по двум ключевым параметрам. Во-первых, он справляется с инференсом — задачей по выдаче готовых ответов на основе уже обученных моделей — быстрее и эффективнее конкурентов. Во-вторых, потребление энергии остаётся на уровне 700 Вт, что существенно ниже, чем у многих аналогов. Это означает, что при масштабном внедрении Jalapeno сможет на практике сократить расходы на электроэнергию, которые для центров обработки данных OpenAI являются одной из основных статей затрат.

Jalapeno разрабатывался OpenAI и Broadcom с использованием собственных ИИ-технологий. Создание чипа заняло рекордно короткие сроки, что позволило стартапу оперативно начать его тестирование. Уже сейчас были испытаны модели с открытым исходным кодом, а также коммерческие решения от DeepSeek и Moonshot AI. Во всех случаях Jalapeno продемонстрировал заметное превосходство, особенно при работе с большими языковыми моделями, которые ещё не представлены на рынке. OpenAI не скрывают, что планируют постепенно расширять спектр задач, доверяемых этим чипам, и уже ближе к концу 2024 года начнут их повсеместное внедрение в собственную инфраструктуру.

Важно уточнить, что Jalapeno заточен исключительно под инференс, а не обучение ИИ-моделей. Это означает, что для тренировки нейросетей OpenAI по-прежнему будет полагаться на решения других производителей, включая Nvidia и Cerebras. Последний, например, хорошо зарекомендовал себя при работе с малыми моделями, но не справляется с масштабными задачами. Однако OpenAI не намерена отказываться от сотрудничества с другими разработчиками, подчёркивая, что все участники рынка необходимы для формирования здоровой конкуренции и стимулирования инноваций в сфере ИИ-чипов.

Следующим шагом для OpenAI станет разработка третьего поколения собственных чипов. Компания рассчитывает, что этот продукт сможет ещё больше снизить энергопотребление и повысить производительность, создавая дополнительную экономию на масштабах. Пока же стартап продолжает тесно сотрудничать с Broadcom и другими партнёрами, чтобы интегрировать Jalapeno в существующую инфраструктуру. При этом OpenAI не исключает, что в будущем откажется от зависимости от Nvidia, чьи чипы до сих пор составляют основу их вычислительных мощностей. Публичные тесты и открытые данные о производительности должны помочь другим компаниям оценить потенциал нового решения и, возможно, ускорить появление аналогичных разработок на рынке.