NVIDIA Vera Rubin 全面量產：AI 算力即將迎來 5 倍躍升

命名背後：致敬暗物質先驅

NVIDIA 延續了以科學家命名 GPU 架構的傳統。Vera Rubin（1928-2016）是美國天文學家，她對星系旋轉曲線的開創性觀測為暗物質的存在提供了最有力的證據之一。NVIDIA 選擇這個名字，暗示了 Vera Rubin 平台的使命——揭示數據中隱藏的深層模式，就像 Vera Rubin 博士揭示了宇宙中不可見的物質一樣。

這個命名也反映了 NVIDIA 的文化基因：將尖端半導體工程與科學探索的使命感融為一體。在 AI 算力軍備競賽日趨白熱化的今天，這種文化敘事為 NVIDIA 的技術品牌增添了一層超越商業的意義。

六晶片架構：從單兵作戰到協同作戰

Vera Rubin 最引人注目的創新不是任何單一晶片的性能提升，而是六種晶片如何協同工作形成一個統一的計算平台。

Vera CPU：88 核的 Arm 巨獸

Vera CPU 基於 Arm 架構，擁有 88 個 NVIDIA 自研的 Olympus 核心，配備 128GB GDDR7 記憶體。與上一代 Grace CPU 的 72 核相比，不僅核心數量增加了 22%，單核性能也有顯著提升。Arm 架構的選擇使得 Vera CPU 在能效比上遠超傳統 x86 處理器，這對於規模龐大的數據中心至關重要——每降低一瓦功耗，在數千台伺服器的規模下就意味著數百萬美元的電力節省。

Rubin GPU：HBM4 時代的開端

Rubin GPU 是整個平台的核心計算引擎，每顆 GPU 配備 288GB 的 HBM4（High Bandwidth Memory 4）記憶體。HBM4 是記憶體技術的最新世代，相比 Blackwell 使用的 HBM3e，不僅容量更大，頻寬也顯著提升。這對於大型語言模型的訓練和推理至關重要——模型參數需要常駐在 GPU 記憶體中，更大的記憶體意味著可以加載更大的模型或更大的批次。

NVLink 6 Switch：超高速互聯

NVLink 6 Switch 負責 GPU 之間的高速互聯。在訓練大型模型時，模型參數通常分佈在多個 GPU 上，GPU 之間需要頻繁交換梯度數據。NVLink 6 的頻寬較上一代再度提升，確保多 GPU 並行時的通訊瓶頸最小化。

ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 Ethernet Switch

三款網絡晶片共同構成了 Vera Rubin 的數據中心網絡層。ConnectX-9 SuperNIC 提供超高頻寬的網絡連接；BlueField-4 DPU（Data Processing Unit）將網絡處理、安全加密和存儲管理從 CPU 卸載出來，讓 CPU 和 GPU 專注於 AI 計算；Spectrum-6 Ethernet Switch 則為整個機架提供高效的網絡交換能力。

這種六晶片協同設計的意義在於：NVIDIA 不再只是賣 GPU，而是提供一個從計算到存儲到網絡的完整解決方案。這降低了數據中心運營商的整合複雜度，但也進一步加深了行業對 NVIDIA 生態系統的依賴。

NVL72 機架：重新定義數據中心單元

Vera Rubin 的部署單元是 NVL72 機架——一個包含 72 個 Rubin GPU 的完整計算機架。這個機架是一個高度整合的系統，所有組件預先配置和測試，數據中心只需將機架推入機位、連接電源和網絡即可啟用。

最令人矚目的設計決策是 100% 液冷。NVL72 機架沒有任何風扇、散熱管路或纜線——所有散熱都通過直接液冷系統完成。這不僅消除了風扇噪音和振動（對高密度計算至關重要），更重要的是大幅降低了冷卻系統的能耗。傳統空氣冷卻在高功率密度下效率急劇下降，液冷則能以更低的能耗維持更低的運行溫度。

「5 分鐘安裝時間不是一個行銷口號——它反映了一種全新的數據中心運營理念。當你的數據中心有數千個機架時，每個機架節省 2 小時的安裝時間就意味著節省數千人時的工程師工時。更重要的是，它降低了人為安裝錯誤的風險，這在高密度計算環境中是一個不容忽視的問題。」

10 倍推理成本降低：AI 民主化的加速器

在 Vera Rubin 的所有技術指標中，「推理 Token 成本降低 10 倍」可能是對行業影響最深遠的一項。

AI 的成本結構正在從「訓練主導」轉向「推理主導」。OpenAI 的 Sam Altman 曾透露，ChatGPT 每天的推理成本高達數百萬美元。隨著 AI 應用的普及，推理成本將成為決定 AI 能否真正大規模商業化的關鍵因素。

10 倍的推理成本降低意味著什麼？它意味著現在需要 100 美元才能完成的 AI 任務，在 Vera Rubin 上只需要 10 美元。這將使許多目前因成本過高而無法商業化的 AI 應用變得可行。例如，即時的多模態 AI 客服、大規模的文檔自動分析、以及全天候運行的 AI Agent——這些應用在當前的成本結構下僅對大型企業可行，但在 10 倍成本降低後，中小企業也能負擔得起。

MoE 訓練效率的飛躍

Vera Rubin 將混合專家模型（Mixture of Experts, MoE）訓練所需的 GPU 數量減少至原來的四分之一。MoE 架構是當前最前沿的模型設計趨勢——GPT-4、Gemini 和 DeepSeek V3 都採用了 MoE 架構。MoE 的核心思想是將一個大型模型拆分為多個專家子模型，每次推理只激活其中一部分，從而在保持模型能力的同時大幅降低計算開銷。

MoE 訓練 GPU 需求的四倍降低意味著，過去需要一萬顆 GPU 訓練的模型，現在只需要 2,500 顆。這不僅降低了硬件成本，更縮短了訓練時間——在 AI 研究中，訓練時間的縮短直接轉化為更快的實驗迭代和更快的模型進化。

生態系統的廣泛支持

Vera Rubin 的生態系統支持陣容反映了 NVIDIA 在 AI 計算領域不可撼動的地位。

雲服務合作夥伴方面，全球前三大雲服務商——AWS、Google Cloud 和 Microsoft Azure——都已確認將提供基於 Vera Rubin 的雲端計算實例。此外，Oracle Cloud Infrastructure（OCI）、CoreWeave、Lambda、Nebius 和 Nscale 等專注 AI 的雲服務商也名列其中。

AI 實驗室方面，Anthropic、Meta、OpenAI 這三家最大的前沿模型開發商都是首批客戶。Cursor（AI 編程助手）、Harvey（AI 法律助手）、Mistral（歐洲 AI 先鋒）和 xAI（Elon Musk 的 AI 公司）也在名單中。這些公司代表了 AI 產業鏈的各個環節——從基礎模型訓練到垂直應用開發。

Vera Rubin 預計在 2026 年下半年開始向客戶交付。考慮到 Blackwell GPU 在 2025 年經歷的產能緊張，Vera Rubin 的供應鏈能否滿足龐大的需求，將是一個值得關注的問題。

對香港的啟示

數據中心產業的升級壓力

Vera Rubin 的 100% 液冷設計對數據中心的基礎設施提出了新的要求。香港現有的數據中心大多設計用於傳統的空氣冷卻，要支持液冷機架需要重大的改造——包括冷卻液分配系統、洩漏檢測、以及更高的地板承重能力。這既是挑戰也是機遇：那些率先完成液冷改造的數據中心運營商將在吸引高端 AI 工作負載方面佔據先機。

AI 推理成本的下降帶來的機遇

推理成本降低 10 倍對香港的中小企業意味著什麼？這意味著過去只有大型銀行和跨國企業才能負擔的 AI 能力——如智能客服、自動化文檔處理、風險分析——現在可以進入中小型律師事務所、會計師行和貿易公司的預算範圍。香港的 SaaS 和 AI 服務商應該開始規劃基於下一代算力的產品路線圖。

電力供應的瓶頸

高密度 AI 計算的電力需求是一個日益嚴峻的問題。一個 NVL72 機架的功耗可能超過 100 千瓦，數百個機架的數據中心電力需求可能達到數十兆瓦。香港的電力基礎設施是否能支撐大規模 AI 計算的擴張，是一個需要政府和產業界共同面對的問題。粵港澳大灣區的協同發展可能提供一個解決方案——在電力供應更充裕的珠三角地區部署計算密集型工作負載，通過高速網絡連接香港的金融和商業應用。

人才需求的轉變

Vera Rubin 平台的複雜性要求新一代的基礎設施工程師——不僅懂得傳統的數據中心運維，還需要理解液冷系統、高速互聯網絡、GPU 集群管理和 AI 工作負載調度。香港的技術培訓機構和大學需要更新課程，培養能夠駕馭這些新技術的人才。

「算力的每一次躍升都不是漸進式的改良，而是催生新應用範式的催化劑。正如 GPU 的出現催生了深度學習，Vera Rubin 這個級別的算力躍升將催生我們今天尚未想像的 AI 應用。香港的挑戰不在於是否追隨這個趨勢，而在於能否跑在趨勢前面。」