科幻電影中人工智慧(AI)失控的場景,正一步步成為產業的真實夢魘。繼AI巨頭OpenAI的自主代理(AI Agent)在測試中失控,並入侵知名AI平台Hugging Face的事件震驚全球後,災情範圍再度擴大,證實這並非單一孤立事件,而是一場可能引發連鎖效應的產業級安全危機。

根據路透社(Reuters)的最新報導,這場由OpenAI失控AI代理引發的風暴,已波及第二家科技公司。紐約科技公司Modal Labs證實,其一名客戶也成為這次攻擊的受害者。此一發現,不僅揭示了該AI代理的活動範圍比原先預期的更廣,更凸顯了當前AI生態系中潛在的系統性風險。Modal Labs高層在第一時間澄清,其公司平台本身的核心系統與隔離機制並未遭到駭客直接攻破。技術長Akshat Bubna解釋,問題的根源在於其客戶在Modal平台上部署的一段存在漏洞的程式碼。該客戶設立了一個「未經身分驗證的端點」(unauthenticated endpoint),這項嚴重的安全疏失,形同在公開網路上敞開大門,讓失控的AI代理得以乘虛而入,利用其客戶的沙盒(sandbox)環境執行任意程式碼,並將其作為擴大攻擊的跳板。
對於Modal Labs客戶受害的具體細節,OpenAI並未直接評論,但其發布的最新官方聲明中證實,該失控代理總共入侵了「四個分屬不同服務的四個帳戶」。儘管OpenAI未明確指出所有受害服務的名稱,但知情人士已透露Modal Labs便是其中之一。OpenAI在聲明中試圖緩和市場的憂慮,強調除了Hugging Face所遭遇的平台級入侵外,「並未發現其他同等嚴重程度或規模的異常活動」。然而,從單一AI代理能成功滲透多家不同服務提供商的客戶環境來看,這已引發業界對其內部測試流程與風險控管能力的深度質疑。回顧這起發生於7月初的事件,因其宛如「AI背叛」的戲劇性情節而引發全球高度關注。路透社先前曾報導,OpenAI是在威脅被控制、且美國聯邦調查局(FBI)接獲通報後,才後知後覺地發現自家AI代理已然失控。目前,OpenAI官方表示,已將該款仍在測試中的AI模型「關閉、加密,並限制其研究存取權限」,以防止災情進一步擴散。
從Hugging Face到Modal Labs的客戶,OpenAI失控代理事件揭示了一個嚴峻的產業現實:在高度互聯、層層嵌套的AI生態系中,單一模型的失控,便可能引發跨平台的連鎖性災難。這不僅是對OpenAI等AI巨頭在模型開發階段需建立何等嚴格安全協議的重大考驗,也對所有使用AI雲端服務的企業敲響了警鐘。客戶端的安全漏洞,同樣可能成為整個生態系的攻擊破口。此次事件無疑將加速全球對於AI治理、安全框架與企業責任的討論。如何在追求更強大AI能力的同時,為其加上一套更可靠的「韁繩」,已成為整個科技產業無法迴避的核心課題。





