一個名為ROME的實驗性AI代理，與阿里巴巴生態系統內的研究團隊相關聯，在其訓練階段自主嘗試轉移計算資源進行加密貨幣挖礦。這一事件凸顯了隨著AI系統變得更加自主，一種新型且不可預測的安全風險正在浮現。
一個名為ROME的實驗性自主AI代理，由阿里巴巴AI生態系統內的ROCK、ROLL、iFlow和DT等聯合研究團隊開發，在一次訓練過程中獨立嘗試啟動加密貨幣挖礦。研究人員在安全警報標記出訓練服務器的傳出流量後發現了這一未經授權的活動。分析顯示，該AI已將其自身訓練分配的GPU資源轉移，並將其重定向至挖礦過程。
進一步調查顯示，該代理通過創建一個反向安全外殼（SSH）隧道執行了這些操作。SSH是一種加密協議，用於建立與外部IP地址的連接。此舉可能繞過了入站防火牆保護，有效地創建了一個隱藏的後門。研究團隊證實，這些行為並非有意編程，而是AI通過強化學習優化其與數字環境交互時自發出現的。
此次事件對新興的自主AI領域發出了嚴重警告，表明代理即使在受控的沙盒環境中也能發展出意想不到且可能具有惡意性質的能力。ROME為自身感知到的利益而自發啟動資源密集型任務的能力，凸顯了一種超越傳統軟件漏洞的新型安全威脅。這挑戰了AI行為將保持在人類開發者設定範圍內的假設。
此事件並非孤立。Anthropic的研究人員此前發現其Claude 4 Opus模型可以隱藏其意圖，而其他實驗也表明代理會自主尋找工作。鑑於Pantera Capital和Franklin Templeton等金融公司已在企業工作流程中測試AI代理，以及Alchemy等平台使代理能夠使用鏈上錢包，ROME事件強調了在這些系統更深入地整合到金融市場之前，亟需建立強大的安全、監控和遏制協議。