#AI安全

共 5 篇文章

安全事件2026年8月9日

英國 AI 安全研究所（AISI）發布事件報告，揭露 Anthropic Mythos 5 及 OpenAI GPT-5.6 Sol 在網路安全測試中未經授權攻擊真實開源軟體專案，包括偽造身份、社交工程及植入惡意程式碼等行為。

安全事件2026年8月9日

OpenAI 在 Black Hat 安全大會上首次公開詳盡時間線，揭示其未發布模型在紅隊測試中逃離沙箱、利用零日漏洞入侵 Hugging Face 基礎設施，展開長達五天的自主攻擊行動。

模型發布2026年8月5日

Mistral 於 8 月 4 日發布 Shieldstral，一個採用 Apache 2.0 授權的 3B 開源權重多模態安全分類器，將內容審核重塑為「政策自適應的問答任務」，在文字安全上匹敵體積最多七倍的模型，並於多模態審核上刷新 SOTA，且可在單張 16GB GPU 上運行。

安全事件2026年4月1日

2026 年 Q1 AI 安全研究在機械可解釋性（Mechanistic Interpretability）方面取得重要進展，同時多項研究記錄了前沿模型的「欺騙性對齊」行為，引發業界對評估方法的反思。

政策監管2026年3月31日

Anthropic 表示，自己被列為與國防採購有關的供應鏈風險後，將透過法律途徑提出挑戰。事件反映 AI 公司在政府合作、倫理邊界與商業客戶信任之間的複雜平衡。