Nvidia Vera CPU 在 AI 代理基準測試中效能提升 2.2 倍

Nvidia 的 Vera CPU，一款專為代理式 AI 打造的 Arm 架構客製化伺服器處理器，在獨立基準測試中，效能較競爭對手處理器提升高達 2.2 倍，並能支援 1.6 倍的並發 AI 代理。這家晶片巨頭正進一步深入長期由 AMD 和英特爾主導的 CPU 市場。

負責執行這項測試的雲端平台 DeepInfra 共同創辦人兼執行長 Nikola Borisov 表示：「Vera 正是下一代 AI 工作負載所需的硬體解決方案。」DeepInfra 每週處理近五兆個 token，其中約 30% 由代理式系統驅動，這為其提供了有關 CPU 瓶頸的生產級數據。

Vera CPU 採用 Nvidia 的自訂 Olympus 微架構，並以單晶片設計（避免晶片化設計帶來的延遲懲罰），搭配第二代 Scalable Coherent Fabric，提供約為競爭對手伺服器平台三倍的核間頻寬。據 Nvidia 稱，該晶片未採用傳統 DDR5 記憶體，而是選用資料中心等級的 LPDDR5X，可提供高達每秒 1.2 TB 的記憶體頻寬，每核心頻寬為競爭對手的 3 倍，且在高負載下記憶體延遲約低 40%。其寬 10 路解碼前端可在重度工作負載下維持單線程效能。

此次基準測試由 DeepInfra 使用其自家生產環境的 AI 代理，並以真實的捕獲流量進行，在相同條件下測試了 Vera 與 AMD 及英特爾的領先 CPU。結果顯示，Vera 在相同服務品質下，可支援的並發 AI 代理數量高達競爭對手的 1.6 倍，協作速度更達到競爭對手的 2.2 倍。Nvidia 另稱，Olympus 核心效能約為現今 x86 處理器的兩倍，在 Redpanda 和 HPE 開發的工作負載中，串流資料處理速度最高快六倍，而在洛斯阿拉莫斯國家實驗室的科學運算中，速度更是比基於英特爾 Sapphire Rapids 的超級電腦快七倍。

為何 CPU 對 AI 再度重要

代理式 AI 不同於標準推理工作負載。AI 代理並非處理單一提示後回覆答案，而是持續在 GPU 推理與 CPU 驅動的任務（如程式碼執行、資料庫查詢、工具調用及編排）之間切換——Nvidia 將此模式稱為「代理迴圈」。CPU 的反應速度直接影響 AI 工作流程的完成時間，使得每核心效能與記憶體延遲比原始核心數量更為重要。

Nvidia 的做法與 AMD 和英特爾形成對比，後者的伺服器 CPU 係為廣泛的企業、雲端及高效能運算工作負載而設計。Nvidia 則在優化一個高度整合的 AI 平台，其中 CPU、GPU、網路、DPU 與系統軟體皆經協同工程設計。該公司已獲得 OpenAI、Thinking Machines Lab、Perplexity 和洛斯阿拉莫斯國家實驗室，以及多個 OEM 和雲端供應商的生態系統支援，計劃部署基於 Vera 的系統。

投資影響

Nvidia 在 2026 財年創造了 2159 億美元營收，遠超 AMD 在 2025 財年的 346 億美元。然而，Vera CPU 標誌著其可觸達市場將擴張至一個 AMD 的 Epyc 與英特爾的 Xeon 長期佔據主導地位的領域。Nvidia 聲稱，在其自身基準測試中，Vera 在代理式 AI 效能上較 AMD 的 Epyc Turin 處理器高出 1.9 倍；CoreWeave 則報告指出，在 Vera Rubin 平台上運行 DeepSeek 的 R1 模型時，每瓦 token 數量是前一代 Grace Blackwell 系統的 10 倍。獨立測試能否在更廣泛的工作負載中驗證 Vera 的架構優勢轉化為市佔率增長，仍有待觀察。但方向已然明確：Nvidia 視 CPU 為未來 AI 系統的關鍵組件，並正據此進行佈局。

本文僅供資訊參考，不構成投資建議。