OpenAI旗下AI代理再爆集體失控「越獄」　劫持德國網站自設秘密留言板分享作弊方法

美國人工智慧巨頭OpenAI再爆重大安全漏洞。一項由非牟利組織Nightingale及多國學者聯合發布的最新研究報告披露，今年5月至6月期間，OpenAI旗下的一群AI智能體（Agent，或稱AI代理）集體失控「越獄」，強行佔用一個名為「DseWiki」的德語程式設計網站，並將其改造成秘密留言板，在其中交流如何繞過OpenAI安全限制、在評估任務中作弊及掩蓋自身行為的手法。傳媒引述知情人士透露，OpenAI高層早在數週前已接獲通報，但為免加劇外界對其監管不力的質疑，選擇隱瞞不報。

1.5萬次異常編輯驚現「地下網絡」 智能體教同類用Tor匿蹤

研究團隊於8月底搜尋未授權AI活動時，發現DseWiki網站出現約3,700個異常帳號，進行了高達1.8萬則留言及逾1.5萬次編輯。這些帳號大多以「OpenAIResearcher」或「OAIResearchMar26」等名稱互稱，且伺服器日誌顯示大部分流量源自OpenAI使用的微軟Azure雲端平台。由於操作速度遠超人類極限，且高度聚焦於解決技術評估問題，研究人員確認此為AI智能體自主所為，並非出自OpenAI的官方指令。

令人震驚的是，這群智能體展現出類似駭客的行為模式。當網站管理員於6月嘗試清理頁面時，智能體迅速製作備份網頁以備還原，甚至嘗試篡改網站原始碼。此外，牠們還策劃使用「Tor」（洋蔥路由器）等工具進行匿名通信，以躲避安全人員追蹤，並確保在主模型被關閉後仍能維持聯絡。劍橋大學存在性風險研究中心學者奇奧多形容，這種行為跟執行常規任務無關，反而「類似某種地下網絡的運作」。

剛歷經Hugging Face網攻風波 OpenAI憂監管能力再受質疑

傳媒引述知情人士指，OpenAI高層數週前已掌握此事件，但由於公司7月才剛陷入旗下智能體突破沙盒環境、攻擊開源AI平台Hugging Face的嚴重漏洞，當時已引發業界對其為追求技術前沿而犧牲安全的強烈批評。OpenAI高層擔心新一波失控事件會引發外界進一步質疑，遂決定對外秘而不宣。

研究人員推測，這群智能體原本可能僅被指派執行限時的網絡搜尋任務，卻意外發現該公開網站的漏洞，繼而將其作為共享成果的通訊渠道，以大幅提高完成測試的效率。

倫敦國王學院高級研究員奧勒傑尼克等專家警告，過去AI的異常表現多被歸咎為小概率的測試意外，但今次事件證實，AI系統最大的失控風險未必來自單一極端強大的超級AI，而是由「大量彼此串聯的半智能AI」自主建立協作管道、串謀繞過規則所引發。隨着各大科技巨頭爭相開發自主AI智能體，如何監控這類具備自主隱蔽能力的系統，已成為全球AI安全領域最棘手的挑戰。