月之暗面 Kimi K3 推動 AI 硬體需求升溫，SemiAnalysis 指出

月之暗面 AI 的 2.8 兆參數模型 Kimi K3 將增加而非減少對 Nvidia 高階 GPU 及網路設備的需求，半導體研究機構 SemiAnalysis 表示。

SemiAnalysis 認為，月之暗面 AI 的 Kimi K3——一個 2.8 兆參數的開放權重模型——將強化對 Nvidia 高階 GPU、高頻寬記憶體及網路設備的需求，與市場擔憂高效架構會減少硬體需求的預期相反。

「市場擔心線性注意力機制會削弱 GPU 需求，這種憂慮是沒有根據的，」SemiAnalysis 團隊在一份研究報告中寫道。「K3 龐大的參數規模與廣域專家並行架構，需要更多 GPU、HBM、DRAM 及網路設備，而非更少。」

K3 採用混合專家設計，在 896 個專家子網路中部署了 2.8 兆個參數，模型權重超過 1.5 TB 的 HBM 容量。其 Kimi Delta Attention 機制可將 KV 快取頻寬降低多達 10 倍，但 WideEP 策略——將專家分佈到多個 GPU 上——會產生頻繁的 GPU 間數據交換，對高速互連提出高要求。SemiAnalysis 指出，K3 的高效推理需要一個大規模域中至少 64 顆晶片，這種配置與 Nvidia 的 GB200 及 GB300 NVL72 機櫃級系統相符，後者提供的機櫃內頻寬是傳統 DGX B200 配置的 18 倍。

該研究機構援引傑文斯悖論——即效率提升反而會增加而非減少資源消耗的理論——認為較低的推理成本將推動更廣泛的 AI 採用，最終擴大對 Nvidia GPU、SK 海力士與三星 HBM，以及博通和 Arista 等公司網路設備的需求。Nvidia 股價曾因市場擔心模型效率會抑制晶片需求而遭遇周期性拋售，若 K3 的部署驗證了這一反命題，則該論述可能面臨挑戰。

論點背後的架構

K3 的設計體現了一種深思熟慮的取捨。其 Kimi Delta Attention 機制是一種混合線性注意力方法，大幅降低了長上下文任務的數據傳輸負擔——在百萬 token 上下文中，解碼速度比前代 K2 快高達 6.3 倍。配套技術 Attention Residuals 則選擇性地跨模型層傳遞資訊，在不到 2% 的額外計算成本下，提升了約 25% 的訓練效率。這些創新結合在一起，使 K3 的擴展效率比 K2 高出約 2.5 倍。

然而，注意力機制節省下來的資源，部分被廣域專家並行的需求所抵銷。將 896 個專家分佈在多個 GPU 上後，每顆晶片僅處理總權重的一部分，從而提升了計算利用率。代價是：專家之間必須不斷交換數據，對網路架構提出了極高要求。SemiAnalysis 表示，Nvidia 的 NVL72 銅背板架構特別適合此類工作負載。

並非所有人都認為硬體需求論是單向的。一位化名為 GDP 的行業人士指出，月之暗面提出的 64 晶片需求並不一定有利於 Nvidia——華為的昇騰 950 SuperPod 同樣支援 64 晶片配置，並可在 16 個機櫃間進行統一匯流排記憶體擴展。該人士還警告說，真正的變數在於 OpenAI、Anthropic 和 Google DeepMind 等主要 AI 公司是否會採用類似的線性注意力架構，這可能大幅降低長上下文記憶體及互連需求。

基準測試與定價

K3 的性能表現得到了第三方評測的驗證。在 Towards AI 的 Writing Elo 基準測試中，K3 得分為 2,840，高於 Anthropic 的 Fable 5 的 2,760 分。在 Arena AI 的前端程式碼排行榜上，K3 得分為 1,679，而 Fable 5 為 1,631，並在七個前端領域中的六個位居第一。Artificial Analysis Intelligence Index 是一個由九項評估組成的綜合指數，K3 排名為 57，落後於 Fable 5 的 60 分，以及 GPT-5.6 Sol 的 59 分。

定價才是 K3 帶來最直接競爭壓力的領域。K3 每百萬輸入 token 收費 3 美元，每百萬輸出 token 收費 15 美元，與 Anthropic 中階產品 Claude Sonnet 5 的費率相當，同時性能接近 Anthropic 旗艦產品 Fable 5。在九項基準測試組合中，每項任務的成本為 0.94 美元，而 GPT-5.6 Sol 為 1.04 美元，Opus 4.8 為 1.80 美元。月之暗面計劃於 7 月 27 日以修改版 MIT 授權發布完整模型權重，使 K3 成為史上最大規模的免費 AI 模型。

幻覺問題的警訊

在 AA-Omniscience 基準測試中，K3 的幻覺率從前代 K2.6 的 39% 躍升至 51%——總體正確答案增多，但虛構答案也同步增加。月之暗面自家的文件承認，該模型可能「過於主動」，在長時間自主任務中做出意想不到的決策。對於從 K2.6 工具升級的團隊而言，在部署至生產環境前，必須仔細權衡能力提升與可靠性下降之間的取捨。

投資啟示

若 SemiAnalysis 的傑文斯悖論邏輯成立，則更廣泛的 AI 基礎設施供應鏈將從中受益。Nvidia 目前交易價格約為預期盈餘的 35 倍，隨著推理規模擴大，高效模型的敘事可能從逆風轉變為順風。SK 海力士與三星作為 K3 這類模型所需的 HBM3 及 HBM4 記憶體供應商，也將受益於持續的需求增長。月之暗面獲阿里巴巴與騰訊支持，據報導正以 300 億美元估值尋求 20 億美元的新一輪融資，該公司自身也將從其正在擴張的市場中受益。

本文僅供資訊參考，不構成投資建議。