×
In

在史丹佛大學舉辦的 Hot Chips 半導體大會上,OpenAI 硬體產品負責人 Richard Ho 公開了首款客製化 AI 晶片「Jalapeño」的更多測試細節。這款晶片是 OpenAI 與博通(Broadcom)共同設計的成果,今年 6 月才首次亮相。現場公布的數據顯示,Jalapeño 在特定工作負載下的推理效能,超越了 NVIDIA 的 GB200 NVL72 與 GB300 NVL72 機櫃系統。

說「超越」可能還太保守。根據 OpenAI 在 SemiAnalysis InferenceX 基準測試中提交的數據,Jalapeño 系統在 gpt-oss-120b、DeepSeek-R1 和 Kimi K2.5 這三款模型上,峰值吞吐量比對手多出 1.5 到 1.9 倍的 AI 工作量,端到端延遲更低上 1.7 到 3.6 倍。在超低延遲的極端情境下,表現甚至快上 2.1 到 4.1 倍。Richard Ho 在大會上特別強調:「在我們嘗試的這 3 款模型,證明了這套架構不僅適用於內部模型,同樣也適用於其他模型,這是一款通用型、極具彈性的 AI 加速器。」

硬體規格亮眼,功耗控制也有驚喜

Jalapeño 的部署方式是以機櫃為單位,每個機櫃搭載 128 顆晶片,具備 1.7 exaFLOPS 的 4 位元運算能力,以及 27.5TB 的 HBM4 記憶體,每顆封裝的記憶體頻寬達到 15.4TBps。完整的 Pod 則由 2,048 顆晶片組成。功耗部分,Jalapeño 的額定功耗為 700W,但在測試工作負載中測得的持續功耗其實保持在 550W 或更低——這在高效能 AI 加速器領域算是相當節能的表現。

不過,數字背後的解讀需要一點謹慎。OpenAI 是用「公布的晶片額定功耗」來標準化測試結果,而 Jalapeño 在實際測試中的功耗低於額定值,這確實讓它的「每瓦效能」數字看起來特別漂亮。但效能比較的基準條件、軟體堆疊的優化程度、以及測試環境的具體配置,仍有許多細節未完全公開。

不賣晶片,也不放慢買 NVIDIA 的腳步

效能數據亮眼,但 OpenAI 的硬體策略並非「自研取代外購」這麼簡單。Richard Ho 在會後受訪時明確表示,OpenAI 並不打算放慢部署 NVIDIA 產品的腳步。「這是我們整體運算資源策略的一部分,策略上涵蓋 NVIDIA、Cerebras 等非常非常出色的合作夥伴,」他說,「我們有著相當龐大的運算需求,而我們不可能一次就全部滿足。」

至於是否會對外銷售 Jalapeño 晶片,Richard Ho 的回應也很直接:「OpenAI 內部有著相當龐大的運算需求,要滿足這些需求需要大量的運算資源,我們光是要有足夠的量都相當吃力。」換句話說,這顆晶片短期內只會用在 OpenAI 自己的資料中心,不會變成另一家 AI 晶片供應商。

有趣的是,Jalapeño 本身有一部分是在 AI 的協助下開發完成的。Richard Ho 透露,運用 AI 讓整個開發流程比以往更加迅速,也讓他們得以在晶片塞入更多的運算能力。而且 Jalapeño 的第二代已經進入深度開發階段,甚至第三代也在進行中。這種「用 AI 設計 AI 晶片」的迭代速度,或許才是這場硬體競賽中最值得關注的變數。

編輯觀點:從產業面來看,OpenAI 秀出 Jalapeño 的效能數據,與其說是向 NVIDIA 下戰帖,不如說是在向華爾街和合作夥伴釋放一個明確訊號:我們在硬體自研這條路上是玩真的。但真正關鍵的不是「效能超越」這四個字,而是 OpenAI 依然需要大量採購 NVIDIA 晶片——這說明了兩件事:第一,自研晶片的產能遠不足以支撐 OpenAI 的龐大算力需求;第二,NVIDIA 的 CUDA 生態系和系統成熟度,短期內仍難以被單點硬體效能突破所撼動。對一般讀者來說,與其關注誰跑分贏了,不如把目光放在「Jalapeño 二代、三代已在開發中」這件事上——AI 輔助晶片設計帶來的迭代速度,才是真正會改寫半導體產業節奏的變數。

部署時程與市場意義

Jalapeño 預計今年稍晚以有限數量部署在 OpenAI 資料中心,並在明年進一步廣泛部署。這個時間點剛好落在 NVIDIA 下一代產品線的換代週期之間,時機頗為耐人尋味。OpenAI 一邊繼續向 NVIDIA 下單,一邊在自己的資料中心逐步導入自研晶片,這種「雙軌並行」的策略,既能確保算力供應無虞,又能逐步驗證自研硬體在真實生產環境中的表現。

對於 AI 產業的觀察者來說,Jalapeño 的真正意義或許不在於它今天能跑贏 GB200 多少倍,而在於它證明了 AI 晶片市場不再只有一個選項。博通在客製化晶片設計端的角色、OpenAI 在演算法與硬體協同設計上的嘗試,以及 AI 輔助設計帶來的加速迭代——這些因素疊加起來,正在悄悄改寫高效能 AI 運算的供應鏈版圖。

說到底,NVIDIA 的霸主地位短期內難以撼動,但 Jalapeño 的出現已經讓市場看到另一種可能性。當一個 OpenAI 等級的模型開發者開始自己設計晶片,而且還能拿出有說服力的效能數據,這條路只會越走越寬。接下來要觀察的,不是效能數據會不會再翻倍,而是這套自研硬體策略能撐起 OpenAI 多大的算力野心。

對企業和技術決策者來說,Jalapeño 的案例帶來的啟示其實很清楚:在 AI 基礎設施的投資決策上,與其押注單一供應商或盲目追求跑分數字,不如思考如何建立一個多元、有彈性的運算資源組合。OpenAI 的做法或許太昂貴、太遙遠,但「分散風險、保留自研選項」的思維,在任何規模的組織都適用。

本文改寫整理自公開新聞來源,原始報導由科技新報發布。

常見問題 FAQ

OpenAI 的 Jalapeño 晶片會對外銷售嗎?

不會。OpenAI 硬體產品負責人 Richard Ho 明確表示,OpenAI 內部自身的運算需求極其龐大,連滿足自用量都非常吃力,因此短期內不會將 Jalapeño 晶片對外銷售給其他公司。

Jalapeño 的推理效能真的比 NVIDIA GB200 快嗎?

根據 OpenAI 在 Hot Chips 大會公布的 SemiAnalysis InferenceX 基準測試數據,Jalapeño 系統在特定模型和超低延遲情境下,峰值吞吐量多出 1.5 至 1.9 倍,延遲更低上 1.7 至 3.6 倍,最快可達 4.1 倍。不過這些數據是在特定測試條件下產生,實際生產環境表現仍有待驗證。

Jalapeño 晶片何時會正式部署?

Jalapeño 預計 2026 年稍晚以有限數量部署在 OpenAI 資料中心,並在 2027 年進一步廣泛部署。同時,Jalapeño 第二代已進入深度開發階段,第三代也在規劃中。

OpenAI 自研晶片後還會向 NVIDIA 採購嗎?

會。Richard Ho 強調,NVIDIA 仍將是 OpenAI 整體運算資源策略中的重要合作夥伴,OpenAI 不會因為自研晶片而放慢部署 NVIDIA 產品的腳步,兩者將並行存在。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。

Related Posts

In

新店市場掃街爆300%熱度!李四川喊話寶高二期:AI產業進駐就差這一步

關鍵數字:新店建國市場週二上午的人潮比平常多...

Read out all