Meta 的 Muse Glimmer 將 300 億參數 AI 模型裝進單一消費級 GPU

Meta 的 300 億參數 Muse Glimmer 可在單一消費級 GPU 上運行，將 AI 的控制權從集中式資料中心轉移到個人開發者手中，並對驅動每年逾 1300 億美元支出的資本密集型模式構成挑戰。

「與其將超級智慧集中化，我們應該將其廣泛分散，讓每個人都有能力掌控它。」Meta 執行長馬克・祖克柏（Mark Zuckerberg）表示。

這款模型由 Meta 閉源 Muse Spark 蒸餾而成，以 Apache 2.0 授權在 Hugging Face 上發布，在 MCP-Atlas 中取得 75.5 分、在 SWE-Bench Pro 中取得 51.2 分，表現優於 Google 的 Gemma4-31B 和阿里巴巴的 Qwen3.6-27B。量化技術將權重壓縮至 20 GB 以下，而 DFlash 推測式解碼器在 RTX 5090 上可將生成速度提升高達 3.1 倍。

此次發布正值 Meta 上季資本支出達到 310.8 億美元，2026 全年指引為 1300 億至 1450 億美元。自由現金流萎縮至 7.84 億美元，引發外界質疑開放式分發能否轉化為可持續的變現能力，以證明這項基礎設施支出的合理性。

將 300 億參數裝進消費級硬體

Muse Glimmer 基於具 52 層的密集 Transformer 架構，支援超過 131,072 個 token 的上下文長度。一個 18 億參數的 ViT-G/14 視覺編碼器實現了文字與影像的多模態輸入，模型訓練資料涵蓋超過 100 種語言，知識截止日期為 2026 年 1 月 4 日。

在全浮點精度下，300 億參數將需要超過 55 GB 記憶體——超過任何消費級顯示卡所能提供的容量。Meta 將權重降低至約 4-bit 精度，使模型壓縮至 20 GB 以下，並在 24 GB 或 32 GB 的 VRAM 限制內為 KV 快取、視覺編碼器和推測式解碼草稿器留下空間。

DFlash 草稿器是一個小型伴隨網路，負責建議 token 區塊供主模型並行驗證，在各種硬體等級上都帶來了實測的速度提升。在 NVIDIA GeForce RTX 5090 上，輸出從每秒 74.9 個 token 躍升至 233.4 個 token——提升了 3.1 倍。Apple Silicon 同樣受惠：M5 Max 系統從每秒 26.6 個 token 攀升至 50.2 個，而 M4 Max 則從 23.7 個提升至 37.8 個。

AMD 宣布同日支援，早期測試顯示在 Ryzen AI Max+ 395 處理器上每秒可達 24 個 token，而在單一 Radeon AI PRO R9700 上啟用 DFlash 後每秒可達 53 個 token。Ollama 0.32.7 已更新以確保相容性，而針對 llama.cpp、MLX 和 ExecuTorch 的最佳化版本預計在數日內推出。

Meta 的開放權重攻勢 vs. 中國競爭對手

Muse Glimmer 進入了一個競爭激烈的市場，中國企業正積極推動本地化、開放權重的模型。DeepSeek 憑藉類似能力引起關注，而阿里巴巴和月之暗面（Moonshot AI）則營運著以兆為單位衡量的參數規模模型。祖克柏以明確的政治語言為此次發布定調，認為美國開發者在訓練資料使用和模型蒸餾方面相較於中國競爭對手面臨監管劣勢。

Meta 的財務狀況為這項策略增添迫切性。該公司第二季營收為 608 億美元，年增 28%，廣告營收年增 27%。但營業利潤率從 43% 收縮至 31%，因成本飆升 55%。廣告曝光次數增長 14%，平均每次廣告價格上漲 12%，然而 7.84 億美元的自由現金流代表與前幾季相比的急劇壓縮。

對投資人而言，Muse Glimmer 是一場分發佈局，而非立即的收入來源。透過免費提供強大的 AI，Meta 旨在吸引開發者、擴大其在 Facebook、Instagram、WhatsApp 和 Meta AI 上的產品觸角，並最終強化其相對於 OpenAI、Anthropic 和 Google 等閉源競爭對手的地位。祖克柏證實公司也將發布 Muse Spark 1.2 的權重，這將使一款前沿級 Meta 模型進入開放權重領域。

AMD 股價當日下跌 1.18%，儘管有合作消息，但該股今年以來已上漲 123.18%。華爾街分析師維持對 AMD 的強力買入共識評級，平均目標價為 640.82 美元，隱含約 34% 的上行空間。

Meta 的基準測試結果為自行報告，實際效能將取決於最佳化整合上線後的表現。該公司尚未給出 Muse Spark 1.2 權重發布的明確日期，僅表示將很快推出。

本文僅供參考，不構成投資建議。