Чип от OpenAI обохдит Nvidia в инференсе — больше деталей о Jalapeño OpenAI опубликовали блогпост,
AI Summary
OpenAI представила свой новый чип Jalapeño, который превосходит решения Nvidia в области инференса, демонстрируя выдающуюся производительность до 13,4 PFLOP/s. Чип оснащен 216 гигабайтами HBM4 и обеспечивает значительно большую эффективность по сравнению с конкурентами, такими как Rubin от Nvidia. Разработка Jalapeño была осуществлена всего за несколько месяцев небольшой командой, и массовое производство планируется на следующий год.
Чип от OpenAI обохдит Nvidia в инференсе — больше деталей о Jalapeño
OpenAI опубликовали блогпост, протестировали чип на InferenceX от SemiAnalysis и дали лекцию на Hot Chips с деталями. На каждом таком чипе 216 гигабайт HBM4, они могут выдавать вплоть до 13,4 PFLOP/s в mxfp4. По сравнению с GB200/GB300 он выдаёт в разы больше токенов в секунду на пике и вплоть до 2x токенов на ватт при максимальной пропускной способности, причём разрыв только растёт с увеличением токенов в секунду на юзера.
Но реальный конкурент Jalapeño это конечно же Rubin, новое поколение Nvidia. Бенчмарки Rubin пока что ограничены, но судя по опубликованным, Jalapeño обгоняет и их. Причём Rubin в бенчмарках использует спекулятивный декодинг, в отличие от Jalapeño, где есть ещё много что оптимизировать.
Короче говоря, у OpenAI теперь есть очень хороший чип, сравнимый с лучшими чипами Nvidia в инференсе. Но самое поразительное тут это скорость разработки — начали разрабатывать чип в октябре 2024, первая версия чипа ушла в производство в ноябре 2025, с первыми чипами готовыми в мае 2026. И менее чем за три месяца софт чипа уже на уровне позволяющем конкурировать с лучшими в индустрии. Кстати делала Jalapeño крохотная команда всего в ~30 человек. Массовое развёртывание Jalapeño будет уже в следующем году.
@ai_newz
Похожие новости
Radar делает подкасты доступными для поиска — и использованию ИИ-агентами
Компания Particle представила новую платформу для подкастов, которая транскрибирует и анализирует более 130,000 подкастов, делая их разговоры доступными для поиска в интернете. Эта информация также может быть использована AI-агентами через API и MCP.
В России утвердят условия запуска 5G
В России утвердят условия для запуска сетей 5G, позволяя операторам связи «большой четверки» использовать существующие базовые станции для развертывания новых технологий. Это решение должно ускорить внедрение сетей пятого поколения в стране.
«МегаФон» обновил 4G-сеть в Кировске
«МегаФон» обновил свою 4G-сеть в Кировске, что улучшит качество связи для десятков тысяч туристов, приезжающих в регион для катания на горных лыжах. Обновление сети направлено на повышение скорости и стабильности интернета в популярном горнолыжном курорте.