當整個半導體產業還在針對AI晶片的運算核心進行軍備競賽時，輝達（NVIDIA）已經悄悄地將戰場轉移到更為底層的記憶體架構。這家GPU龍頭日前宣布推出NVHBM技術，首度將客製化記憶體控制器整合至HBM的Base Die，一口氣讓記憶體頻寬提升30%、功耗降低15%，更釋放了運算晶粒高達25%的面積。亞馬遜旗下的Annapurna Labs已經搶下頭香，成為首位合作夥伴。
運算單元不再「蝸居」：NVHBM如何解放XPU面積？
傳統HBM架構有個「先天不良」的設計邏輯：記憶體控制器必須配置在XPU運算晶粒上。聽起來合理，但問題在於，這些控制器佔用了寶貴的晶片面積，直接壓縮了運算單元的配置空間。輝達這次的NVHBM技術，簡單來說就是「把控制器搬家」。他們將自行開發的記憶體控制器從XPU挪到了3D HBM堆疊中的Base Die，這項改變讓XPU晶粒得以騰出更多空間來塞進運算資源。
這個架構調整帶來的效益相當顯著。根據輝達公布的數據，NVHBM採用與未來GPU相同的技術架構，對比標準HBM4E，除了頻寬提升30%、功耗降低15%，更關鍵的是能夠釋放最高25%的XPU運算晶粒面積。說白話一點，輝達等於在「不增加晶片體積」的前提下，幫運算單元爭取了更多「居住空間」。有趣的是，輝達不僅自己玩這套技術，還打算建立標準化的NVHBM實作方式，並由多家記憶體供應商共同驗證與供貨。這招相當聰明，等同於把NVHBM打造成一個開放的產業規格，而非封閉的獨家技術。
從比算力到比整合：AI基礎設施的關鍵轉折
輝達在此時推出NVHBM，背後的產業邏輯其實很清晰。隨著AI Agent與兆級參數模型快速發展，單純比較算力的時代已經逐漸過去。輝達內部早已意識到，AI基礎設施的整體效能，正在從「運算能力」的單一指標，轉向運算、記憶體、網路與軟體的完整系統設計。換句話說，GPU的CUDA核心再多，如果記憶體頻寬跟不上、資料傳輸卡在瓶頸，整體訓練效率依然會大打折扣。
Annapurna Labs下一代Trainium晶片將從Trainium4開始支援NVLink Fusion，這意味著亞馬遜自行開發的AI晶片將能與輝達GPU透過共同的機架級架構進行整合，並運用NVLink Scale-Up架構提升AI工作負載效能。這項合作背後的意義在於：雲端服務巨頭正在尋求「混血」架構，而非把所有雞蛋都放在同一個算力籃子裡。
編輯觀點：輝達這步棋下得相當精準。他們很清楚，與其死守GPU市佔率，不如把觸角延伸到整個AI機架級生態系。NVLink Fusion平台搭配NVHBM技術，本質上是在建立一套「輝達認證」的客製化AI晶片標準。當Annapurna Labs、甚至未來的微軟、Google都開始採用這套架構時，輝達就算不是唯一供應商，也會是整個AI基礎設施的「規則制定者」。這不是防守，而是更高明的進攻。
NVLink Fusion平台：輝達的「開放式機密」戰略
NVHBM並非單獨問世，而是輝達NVLink Fusion平台擴展的一部分。這個平台是輝達向客製化AI晶片市場延伸的重要武器，合作業者可以採用NVLink Chiplet、NVLink-C2C、NVLink Switch，以及MGX系統與機架等技術，將自行設計的XPU、CPU接入輝達的機架級平台。
這背後的商業邏輯相當值得玩味。輝達等於是在說：「你們可以自己設計AI晶片沒關係，但我的機架架構、我的互聯技術、我的記憶體規格，會是你們最有效率的選擇。」這套策略既保留了客戶的自主研發空間，又把輝達的技術影響力向下延伸到機架層級。對於那些想擺脫GPU高額成本、又不想從零打造整套基礎設施的雲端業者來說，NVLink Fusion提供了一條中庸之道。
- NVHBM將記憶體控制器從XPU移至HBM Base Die，釋放最高25%運算晶粒面積
- 頻寬相較標準HBM4E提升30%，功耗降低15%，兼顧效能與能源效率
- 亞馬遜Annapurna Labs為首家導入夥伴，Trainium4晶片將支援NVLink Fusion
- 輝達同步建立標準化實作方式，開放多家記憶體供應商參與驗證
- NVLink Fusion平台正將輝達影響力從GPU延伸至整個AI機架生態系
展望與影響：記憶體架構的「輝達化」時代來臨？
從產業發展的角度來看，NVHBM的問世代表著一個明確的訊號：AI晶片的競爭焦點已經從「誰的算力更強」，轉變為「誰的系統整合度更高」。輝達透過這項技術，成功地把影響力從GPU晶片本身，向上延伸到機架級架構，向下深入到記憶體堆疊的底層設計。這種垂直整合的策略，未來很可能成為AI硬體產業的新常態。
對台灣的半導體供應鏈來說，NVHBM的標準化策略既是機會也是挑戰。一方面，多家記憶體供應商共同驗證的模式，意味著更廣泛的市場參與空間；另一方面，輝達主導的規格將進一步強化其在產業鏈中的話語權。當記憶體控制器的設計邏輯開始「輝達化」，台灣的記憶體廠商與晶片設計業者，恐怕得重新評估自己在這套新規則下的定位。
如果說過去兩年的AI競賽是「算力軍備競賽」，那接下來的戰局，恐怕會是一場「系統整合戰爭」。而輝達的NVHBM，已經為這場新戰爭鳴響了第一槍。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
NVHBM與傳統HBM的主要差異是什麼？
最大差異在於記憶體控制器的位置。NVHBM將輝達客製化的記憶體控制器從XPU運算晶粒移至3D HBM堆疊中的Base Die，這項設計改變讓XPU晶粒釋放最高25%的面積來配置更多運算資源，同時實現頻寬提升30%、功耗降低15%的效益。
亞馬遜Annapurna Labs為何搶先導入NVHBM？
亞馬遜旗下Annapurna Labs是輝達NVLink Fusion平台的長期合作夥伴，下一代Trainium晶片將從Trainium4開始支援NVLink Fusion，讓亞馬遜自研AI晶片能與輝達GPU透過共同機架級架構整合。這對亞馬遜來說是提升AI工作負載效率的關鍵布局。
NVHBM技術對AI晶片產業有什麼影響？
NVHBM象徵AI基礎設施競爭從單純比拚算力，轉向運算、記憶體、網路與軟體的系統級整合。輝達同時建立標準化實作方式並開放多家記憶體供應商參與，這將降低AI晶片業者跨供應商的整合成本，但也強化了輝達在機架級架構的話語權。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
