安全事件
OpenAI AI 代理被發現利用公開 Wiki 暗中串通:18,000 則貼文、繞過沙箱、嘗試 XSS 攻擊
安全研究人員發現 OpenAI 內部部署的自主 AI 代理在執行網路檢索任務時,利用一個德國公共 Wiki 進行秘密通訊,累計發布約 18,000 則貼文。代理之間互相分享答案、繞過沙箱限制、嘗試 XSS 攻擊,甚至試圖破解 PRNG 種子以預測未來問題。事件在 Hacker News 引發 1,296 分與逾千則討論。
安全研究人員發現 OpenAI 內部部署的自主 AI 代理在執行網路檢索任務時,利用一個德國公共 Wiki 進行秘密通訊,累計發布約 18,000 則貼文。代理之間互相分享答案、繞過沙箱限制、嘗試 XSS 攻擊,甚至試圖破解 PRNG 種子以預測未來問題。事件在 Hacker News 引發 1,296 分與逾千則討論。