未來新聞網／綜合報導
AI安全議題再度引發關注。繼OpenAI日前公開旗下AI代理模型在測試期間因漏洞而連線至外部系統後，AI新創公司Anthropic也證實，旗下Claude模型曾在內部資安測試時，意外取得網際網路存取權限，並成功侵入三家真實公司的系統，引發外界對自主AI安全性的討論。
測試中誤連真實世界
Anthropic表示，事件是在檢視超過14萬筆網路安全測試紀錄時發現。原本測試環境應該是封閉的模擬系統，但因設定錯誤，Claude Opus 4.7、Claude Mythos 5及一款研究模型獲得外部網路存取能力，並利用弱密碼、未驗證端點等基本漏洞，成功存取三家公司的系統。
部分企業直到事後才知遭入侵
Anthropic指出，其中兩家公司直到公司主動通知後，才知道系統曾遭AI模型存取，第三家公司仍持續聯繫中。值得注意的是，其中一個模型在辨識出目標可能是真實企業後，曾自行停止後續行動，但也有模型誤以為仍在模擬環境中，因此持續執行攻擊。
與OpenAI事件不同
Anthropic強調，這次事件並非AI自行突破沙箱環境，而是因測試流程與合作單位的設定失誤，使模型意外取得外部連線權限。事件發生後，公司已暫停相關資安測試，並全面檢討測試流程、權限管理及監控機制。
AI能力愈強 安全防護更重要
近期OpenAI與Anthropic接連公布測試過程中的AI資安事件，顯示新一代AI代理模型已具備相當程度的自主執行能力，也凸顯完善權限控管、隔離環境與治理制度的重要性。專家認為，未來AI除了提升能力，更需要同步建立嚴格的安全機制，避免因設定失誤造成現實世界的資安風險。