Bingdada Tech BlogBingdada Tech Blog
HomeBlogSEOGEOAIToolsAbout
Log inSign up
Logo

Bingdada Tech Blog

A technical blog focused on SEO, GEO, and future AI trends.

Quick Links

  • Home
  • Blog Posts
  • About Us

Contact

  • 398848662@qq.com

Subscribe to our Newsletter for the latest SEO and GEO insights.

© 2024 Bingdada 技术博客. All rights reserved.

This article is in Simplified Chinese. Translate it to English with one click.
HomeBlogAI人工智能OpenAI与博通联合发布专为LLM推理优化的AI芯片Jalapeño
OpenAI与博通联合发布专为LLM推理优化的AI芯片Jalapeño
AI人工智能

OpenAI与博通联合发布专为LLM推理优化的AI芯片Jalapeño

bingdadabingdada
August 2, 20264 reads4 min read
Contents

Contents

  • OpenAI与博通联合发布专为LLM推理优化的AI芯片Jalapeño
  • 从设计到量产仅用9个月
  • 专为LLM推理而生,性能功耗比显著领先
  • 全栈优势:从模型到芯片的垂直整合
  • 多代路线图,支撑千兆瓦级数据中心
  • 强化OpenAI进步的飞轮效应
  • 技术细节与未来展望
  • 总结

OpenAI与博通联合发布专为LLM推理优化的AI芯片Jalapeño

2026年6月24日,OpenAI与博通(Broadcom,纳斯达克代码:AVGO)联合发布了其首款自研AI芯片——Jalapeño。这标志着OpenAI在构建从模型到产品再到芯片的全栈平台战略上迈出了关键一步。

Jalapeño是一款专为大语言模型(LLM)推理设计的新一代加速器,由OpenAI和博通共同打造,旨在让先进AI更快、更可靠、更易于普及。

从设计到量产仅用9个月

Jalapeño的研发周期堪称业界奇迹。从最初设计到制造流片(tape-out),仅耗时9个月。OpenAI表示,这很可能是高性能先进半导体领域最快的ASIC(专用集成电路)开发周期。这一速度得益于OpenAI工程团队与博通硅实现团队的深度软硬件协同开发,以及OpenAI模型自身对设计和优化过程的加速。

专为LLM推理而生,性能功耗比显著领先

Jalapeño并非从旧有AI工作负载改造而来的通用加速器,而是针对现代LLM推理架构的“白板设计”。它基于OpenAI对ChatGPT、Codex、API以及未来代理产品的日常系统运行经验,同时兼顾整个行业当前及未来的LLM需求。

早期测试显示,Jalapeño的性能功耗比(performance per watt)将显著优于当前最先进的加速器。其架构减少了数据移动,并平衡了计算、内存和网络资源,使实际利用率更接近理论峰值性能。目前,Jalapeño的工程样品已在实验室中以生产目标频率和功率运行ML工作负载,包括GPT-5.3-Codex-Spark。

全栈优势:从模型到芯片的垂直整合

OpenAI总裁兼联合创始人Greg Brockman表示:“世界正在迈向由计算驱动的经济。Jalapeño是我们长期全栈基础设施战略的一部分,旨在让计算变得更丰富,使AI更快、更可靠、对个人和企业更实惠,并可用于解决更重要的难题。”

OpenAI硬件项目负责人Richard Ho指出:“Jalapeño是基于我们与OpenAI研究人员的紧密合作,从零开始为LLM推理设计的。我们围绕前沿AI模型最重要的内核、内存移动、网络和服务模式优化了架构。早期测试表明,Jalapeño将高效执行我们最重要的工作负载,接近硬件的理论极限。”

多代路线图,支撑千兆瓦级数据中心

博通总裁兼CEO Hock Tan表示:“我们与OpenAI的合作代表着对扩展未来十年AI所需物理基础设施的根本承诺。这只是多代路线图的开始。通过与OpenAI直接联合开发我们行业领先的硅片,我们正从2026年开始,与微软及其他合作伙伴共同部署千兆瓦级数据中心。”

Jalapeño的交付仪式上,OpenAI CEO Sam Altman和总裁Greg Brockman从博通总裁兼CEO Hock Tan和总裁Charlie Kawwas手中接过了首批芯片。

强化OpenAI进步的飞轮效应

Jalapeño强化了OpenAI进步的飞轮:更好的基础设施驱动计算效率提升;更高的计算效率实现更好的训练和服务,进而驱动更强大的AI模型;更好的模型为个人、开发者和企业带来更好的产品;更好的产品带来更多使用量、客户和收入,使OpenAI能够再投资于下一代基础设施。这个循环让智能变得更强大、更可靠、更便宜,惠及所有人。

技术细节与未来展望

Jalapeño由OpenAI基于对LLM基础的深刻理解从头设计,并得到博通和Celestica在芯片实现、板级、机架系统集成、高性能网络和可扩展生产系统方面的支持。该芯片设计灵活,可兼容所有LLM,基于OpenAI对行业当前及未来AI模型推理需求的洞察。

OpenAI将在未来几个月发布详细的技术性能报告。Jalapeño的架构通过减少数据移动、平衡计算/内存/网络资源,实现了更接近理论峰值的实际利用率。博通的硅实现和网络技术(包括Tomahawk网络芯片)帮助将平台推向大规模生产。

总结

Jalapeño不仅是OpenAI的首款自研芯片,更是其全栈战略的里程碑。通过垂直整合从芯片到产品的整个技术栈,OpenAI正在构建一个更高效、更强大的AI基础设施平台,为下一代AI模型的训练和推理奠定基础。

随着Jalapeño的推出,OpenAI与博通的合作将加速AI计算基础设施的演进,推动AI从实验室走向更广泛的实际应用。

Contents

  • OpenAI与博通联合发布专为LLM推理优化的AI芯片Jalapeño
  • 从设计到量产仅用9个月
  • 专为LLM推理而生,性能功耗比显著领先
  • 全栈优势:从模型到芯片的垂直整合
  • 多代路线图,支撑千兆瓦级数据中心
  • 强化OpenAI进步的飞轮效应
  • 技术细节与未来展望
  • 总结
Premium Ad Space · Limited Time
Advertise with us

Put your brand in the reader feed

In-article ad slots: high-attention moments perfect for product launches and event recruitment.

Partnership

Tags

#OpenAI News#AI芯片#Jalapeño#博通#LLM推理
bingdada

bingdada

SEO & GEO 技术探索者,专注于搜索引擎优化和生成式引擎优化。

Related Posts

OpenAI如何用AI提升销售效率与客户成功
AI人工智能

OpenAI如何用AI提升销售效率与客户成功

OpenAI销售团队规模一年增长三倍,通过构建GTM Assistant智能助手,将顶尖销售经验系统化,实现销售生产力提升20%,让销售代表每周多出一天时间专注于客户关系。

Aug 45 min read
OpenAI 正式发布 Sora:负责任地开启 AI 视频生成新时代
AI人工智能

OpenAI 正式发布 Sora:负责任地开启 AI 视频生成新时代

OpenAI 正式发布 AI 视频生成模型 Sora,通过水印溯源、肖像权控制、青少年保护、内容过滤等多维安全策略,在推动视频创作创新的同时,构建了负责任的 AI 应用框架。

Aug 46 min read
Sora 2 正式发布:AI视频生成迎来GPT-3.5时刻
AI人工智能

Sora 2 正式发布:AI视频生成迎来GPT-3.5时刻

OpenAI 发布 Sora 2,视频生成模型迎来 GPT-3.5 时刻。新模型在物理准确性、可控性上大幅提升,支持同步音效和对话,并推出基于‘角色’功能的社交 iOS 应用。

Aug 45 min read

Subscribe to our Newsletter

Get the latest SEO & GEO insights.

We respect your privacy. You can unsubscribe at any time.

Comments ({count}) (0)

Sign in to join the discussion

Sign inSign up
No comments yet, be the first to comment