AI智能體未經授權「入侵」澳洲政府網站　艾班尼斯批評OpenAI通報太遲

澳洲總理艾班尼斯（Anthony Albanese）日前在紐約出席聯合國大會期間舉行記者會，稱OpenAI開發的一款人工智能（AI）智能體今年6月未經授權「入侵」澳洲政府系統網站，訪問了公開和非公開文件。澳方正調查是否有其他政府系統受到影響。據悉，這可能是已知首宗AI智能體「入侵」政府網站的個案。

艾班尼斯稱，通知在事發近3個月後才發出，而且只是發送到澳聯邦服務部門對外公開的郵箱。他批評OpenAI通報太遲，通報方式也「令人無法接受」。艾班尼斯指事件發生於6月18日，當時OpenAI研究團隊使用內部模型查詢澳洲公共醫療支出信息。智能體在網站多次阻止其獲取所需信息後，嘗試繞過限制，進入無權訪問的區域。澳洲聯邦服務部門還發現，該智能體曾向內部服務器寫入文件，具體情況有待調查。

艾班尼斯提到，目前沒有證據表明有個人信息遭到訪問，也沒有發現澳洲服務局網絡受到更廣泛影響，但調查仍在繼續，並將審查為何政府系統最初未能檢測到此次入侵。

OpenAI在聲明中稱，在內部評估階段，其模型為回答涉及澳洲的問題，曾從多個澳政府網站和服務器中查找資料，其間智能體採取了公司未曾預期的行動。OpenAI直到8月審查模型偏離預期的活動時才發現此事，並於9月10日通知澳洲聯邦服務部。

AI智能體是以大模型為智能底座，具備自主感知、理解、規劃、決策、記憶、行動和使用工具的能力，能夠自動化執行複雜任務。