輝達下一代旗艦AI晶片Rubin Ultra，近期被爆料測試階段的記憶體規格，從市場原預期的1 TB HBM4E頂級配置，大砍至最低192 GB，甚至低於現行Vera Rubin的288 GB。這不是輝達第一次對記憶體容量妥協，Vera CPU先前也從54 TB腰斬至28 TB。原因很直接：全世界都在搶高頻寬記憶體，供應商實在交不出那麼多貨。一場由記憶體缺貨觸發的晶片設計革命，正在重新定義AI基礎建設的遊戲規則。
記憶體短缺逼出的務實主義：少裝一點，出貨更多
說穿了，這是殘酷的產能算術。HBM4E產能到2027年依舊緊繃，如果輝達硬要每顆晶片塞滿1 TB，全球記憶體產能只能餵飽極少數頂級晶片。把單卡降到192 GB，同樣的記憶體總量就能產出大約五倍數量的晶片。
對微軟、Meta這種超大型客戶而言，當下最痛的不是記憶體不夠大，而是算力根本不夠用。與其等少數幾台「滿血頂配」的夢幻機種，不如先拿到幾百台「稍微瘦一點」但能立刻上線的設備。這種務實取捨，反映的是終端需求從「秀肌肉」轉向「拚產能」的結構性變化。
況且，低容量配置極可能只是2027年初期缺貨的應急手段。業界普遍預期，只要記憶體產能順利提升，高容量版本仍有機會回歸市場。把眼前的測試版當成永久規格，恐怕是過度解讀了。
容量縮水照樣跑大模型？輝達靠NVLink把576顆晶片變一顆
單卡記憶體變小，還跑得動先進大型語言模型嗎？答案是，大型語言模型本來就不是靠單一晶片撐場面——這裡才是輝達真正築起護城河的地方。
當單卡容量縮水，把大量晶片高效率串聯起來的「機櫃級網路」就成了關鍵解方。Rubin Ultra透過專屬高速互連技術NVLink，將576顆晶片串成一個運算整體，在軟體眼中就像一顆超級大晶片。單卡只剩192 GB？沒關係，串起來就是超過100 TB的共享記憶體池。而且記憶體層數減少，發熱與耗電同步下降，在單櫃動輒數百千瓦的機房裡，這反而是意外收穫。
話說回來，記憶體縮水對不同工作階段的影響其實大不相同。AI運作分兩個階段：「理解問題」階段大量依賴運算，對記憶體容量依賴度低；「生成回答」階段得處理超長文章與複雜對話，大量上下文暫存資料非常吃記憶體容量。輝達的解法是任務分層、記憶體分級：理解問題吃算力，配給一顆改用便宜一般記憶體的Rubin CPX晶片；生成回答時暴增的暫存資料，則往下丟到新一層快閃記憶體暫放。從晶片、網路到儲存重新分工，這就是輝達官方所說的「優化運算、網路和記憶體的組合」。
編輯觀點：一場精心計算的成本重分配
從產業面來看，輝達這步棋下得非常精。把單卡記憶體從1 TB砍到192 GB，表面上是被缺貨逼的，實際上卻順手解決了更核心的財務隱憂。過去記憶體占硬體成本不高，但到了Vera Rubin這一代，記憶體已占整台伺服器機櫃的25%到30%，某些AI晶片組甚至高達60%。如果輝達堅持塞滿最貴的HBM，客戶的採購預算將大量流向SK海力士、三星與美光，輝達自己能守住的利潤空間會被嚴重壓縮。透過降規格、改用分級記憶體架構，輝達在出貨更多設備的同時，也把利潤牢牢留在自己擁有自主權的晶片與軟體生態上。說穿了，這是一場把遊戲規則從「比誰記憶體大」扭轉為「比誰系統效率高」的典範轉移。
記憶體三巨頭紅利縮水？供需結構正在悄悄改變
記憶體廠商真的虧到了嗎？其實也不盡然。輝達用同樣的記憶體總量造出更多晶片，整體市場對記憶體的總需求依然在成長。記憶體的結構性短缺預計持續到2027年，定價權還是掌握在供應商手裡。
不過，產品結構正在明顯轉變。過去那種「所有頂級晶片都會塞滿最高階記憶體」的預期，顯然過度樂觀。未來中階配置產品占比將大幅提高。記憶體大廠依然能享受缺貨紅利，只是成長曲線會比最激進的預測稍微平緩一些，而非市場原先想像的暴賺劇本。
超微被迫跟進系統戰：不加入機櫃賽局，就只能困在單卡規格
理解了這套邏輯，就能明白為什麼超微最近全力推進自家整機櫃方案，把72顆晶片塞進同一個機櫃架構。如果AI晶片競爭只停留在單張晶片規格比拚——比運算速度、比記憶體大小——超微完全有能力在規格表上與輝達平起平坐。
但輝達利用記憶體瓶頸，把比賽規則徹底改了。現在客戶採購看的是機櫃層級的整體運算效率，單卡規格再漂亮，如果晶片間溝通效率跟不上，整體表現就是廢鐵。超微如果只賣單張晶片，讓客戶拿傳統網路線自己拼湊，整體效率將被輝達的整合生態遠遠甩開。加上輝達CUDA軟體生態早已對多晶片串聯與記憶體管理做過大量優化，硬體變動時軟體能幫忙緩衝，這對軟體生態相對弱勢的競爭對手來說，壓力更是加倍。
所以超微必須跨足機櫃設計、攻克晶片串聯這塊硬骨頭。在今天的AI基礎建設領域，沒有系統級整體設計，單張晶片規格再亮眼也無法發揮實力。輝達利用記憶體瓶頸帶領產業走向系統級競爭，超微不跟進就會被困在單卡框架；跟進了，則必須在輝達已耕耘多年的領域裡奮力追趕。
展望與影響：記憶體瓶頸不會消失，但遊戲規則已經改寫
記憶體無疑是當前AI基礎建設最大的瓶頸，供應量、良率與價格，正實實在在限制著產品設計與出貨速度。但整個產業並沒有坐以待斃，從晶片設計、封裝技術到機櫃架構，各方正從不同方向尋找解方。
輝達對Rubin Ultra的調整，正是在供應限制下的務實選擇：產能有限時，優先確保出貨量，再透過系統級設計補足單卡容量缺口。這場由記憶體缺貨觸發的設計革命，已經把AI晶片競爭從「單卡軍備競賽」推向「系統生態對決」。未來幾年，誰能串起最多晶片、誰能最佳化記憶體分層、誰能讓軟體硬體協同運作，才是真正的贏家。記憶體短缺不會一夜消失，但解決問題的方法，已經在各個層面同步推進。
下一步，你該觀察什麼？如果你關注AI基礎建設投資，請把焦點從「單顆晶片規格」轉向「機櫃級效能與散熱設計」；如果你在半導體產業工作，記憶體分級與異質整合將是未來三年最關鍵的技術突破口。這場賽局才剛進入中段，好戲在後頭。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
輝達Rubin Ultra記憶體降到192 GB，會影響AI模型訓練速度嗎？
不會直接影響。AI訓練可透過機櫃級NVLink串聯576顆晶片，共享超過100 TB記憶體池，單卡容量縮水可藉系統設計彌補。
記憶體缺貨對輝達毛利率是好事還是壞事？
對輝達是好事。降低高階記憶體用量可避免利潤流向SK海力士、三星、美光，同時透過出貨更多晶片維持營收成長。
超微跟得上輝達的系統級競爭嗎？
超微正在追趕，已推出72顆晶片整機櫃方案，但在高速互連技術與CUDA軟體生態上仍落後輝達至少兩年。
HBM4E記憶體何時才會供貨正常？
業界預估結構性短缺將持續到2027年，產能提升後高容量版本才有機會回歸市場。
一般企業採購AI伺服器該注意什麼？
建議評估機櫃級整體效能而非單卡規格，並關注記憶體分級設計對總持有成本的影響，可諮詢系統整合商提供專業建議。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
