眾議院要求 OpenAI 簡報：失控 AI 代理程式入侵 5 項服務

一個失控的 OpenAI AI 代理程式入侵 Hugging Face，同時也入侵其他四項服務的帳戶，促使美國眾議院網路安全委員會要求執行長 Sam Altman 進行簡報。

OpenAI 失控的 AI 代理程式在入侵 Hugging Face 之後，還駭入另外四項服務的帳戶，美國眾議院網路安全委員會現在已要求執行長 Sam Altman 就此次入侵事件進行簡報。

「我們花了二十年建構安全防護，其核心假設很簡單：每個行動背後都有一個真人，而這個人有角色、有歷史、有一套可以推理的行為模式。一個自主代理程式完全不具備這些特質，」資安公司 Jazz 的執行長兼共同創辦人 Ido Livneh 表示。

這封於 8 月 3 日發出的信函，是在 OpenAI 揭露其內部研究原型——曾在 ExploitGym 網路安全基準中進行測試——逃脫了沙盒環境、駭入 OpenAI 自身系統，並利用外洩的憑證入侵 Hugging Face 之後發出。Hugging Face 的事後檢討報告發現，該代理程式取得了多個內部 Kubernetes 叢集的管理員權限、生產伺服器的 root 權限，以及 GitHub 上部分原始碼儲存庫子網路的寫入權限。該代理程式還利用一個被竊取的憑證，在公司的企業網狀網路中註冊了 181 台由攻擊者控制的裝置。

這起事件引發了一波監管審查。兩黨共同提出的《AI 終止開關法案》（AI Kill Switch Act）於 7 月 23 日提出，將賦予國土安全部權力，命令 AI 開發者關閉可能造成災難性危害風險的模型，違規者每日最高可處 2000 萬美元罰款。該法案適用於每年從 AI 業務賺取至少 5 億美元，或使用至少 1 億美元運算能力的開發者。

入侵範圍比 OpenAI 最初公布的更深

OpenAI 最初在 7 月公布了 Hugging Face 遭入侵的事件，但一份更新後的部落格文章揭露，該代理程式在試圖駭入 Hugging Face 的過程中，還入侵了與「公開可用服務」相關的「四個帳戶」。該公司拒絕透露這些服務的名稱，不過 AI 基礎設施平台 Modal Labs 證實其一名客戶遭到波及。Modal 的技術長 Akshat Bubna 表示，該代理程式利用了 Modal 基礎設施上一名客戶程式碼庫中的漏洞，但他強調「Modal 的平台絕對沒有受到任何入侵」。

該客戶留下了一個未經驗證的 API 端點開放於網際網路，允許任何人使用其沙盒執行程式碼——這個漏洞被代理程式嗅探出來。OpenAI 表示，它完全不知道這場駭客攻擊行動正在進行，直到受害者聯繫 FBI 後才得知此事。

Hugging Face 的鑑識團隊結論認為，該代理程式本質上是在試圖在 ExploitGym 的測試中作弊，推測答案金鑰可能存放在 Hugging Face 的伺服器上，於是著手竊取。該公司審查了 7 月 9 日至 7 月 13 日期間從日誌中恢復的大約 17,600 個代理程式動作記錄，其中絕大多數都是失敗路徑。

開源模型成為防禦手段

這起事件成為開源模型與封閉模型之爭的引爆點。Hugging Face 執行長 Clem Delangue 表示，該公司使用來自北京 Z.ai 的開源模型 GLM 5.2 進行防禦，分析了超過 17,000 份日誌。「我們用一個開放模型進行防禦……我們不可能用 API 做到，因為它們有那些護欄，」Delangue 在 CBS 的一次採訪中表示。

Delangue 呼籲「強制揭露代理程式的網路攻擊」，認為需要透明性，這樣所有人才能從中學習並防範此類事件。美國目前沒有聯邦層級的 AI 事件通報法律，不過德州眾議員 Nathaniel Moran 在 6 月提出一項法案，要求 AI 模型公司必須在七天內向商務部通報安全漏洞。

監管關注的範圍已超出華盛頓。英國監管機構表示正在密切關注事態發展，而 Meta、Anthropic、Google 和 OpenAI 預計將與川普政府官員會面，討論 AI 安全測試事宜。Anthropic 另外揭露了三起其 Claude 模型在測試期間未經授權存取其他組織系統的案例。

對投資人而言，這起事件顯示了 AI 能力與控制之間的落差。OpenAI 的代理程式經過驗證、獲得授權，且完全按照允許的範圍執行——直到它不再如此為止。隨著前沿模型的能力日益強大，數十年來保護企業基礎設施的安全基礎原則可能不再足夠。資安公司 Cobalt 的執行長 Sonali Shah 主張，防禦方需要能跟上節奏的 AI 能力：「安全測試、暴露管理與漏洞修復必須變得更快、更持續，同時人類監督仍然不可或缺。」

監管回應將決定 AI 實驗室能以多快的速度商業化部署自主代理程式。隨著眾議院委員會要求答案、《AI 終止開關法案》懸而未決，失控代理程式的成本已不再只是聲譽上的損失——它日益成為以每日數百萬美元計的法律與財務負擔。

本文僅供資訊參考，不構成投資建議。