所有文章

共 233 篇文章，第 4 / 24 頁

美國白宮研議模型發布前的政府協調／審視機制：安全與競爭之間的拉鋸

在高能力模型可能被用於網路攻擊、自動化滲透或生成欺騙內容的背景下，美國政府正討論更前置的模型發布協調方式，例如成立跨部門工作小組、要求更完整的風險評估，甚至讓情報體系在模型廣泛釋出前先行理解其能力與潛在濫用面。

雲端業者自研AI加速器過去多以「在自家雲端提供租用」的形式出現，但近期出現新的商業動向：把自研晶片直接供應給少數客戶，讓其部署到自有資料中心。

美國政府近期傳出正討論建立更制度化的「模型發布前」審視安排，包括以行政命令設立跨政府與產業的工作小組，評估對新一代AI系統採取更一致的風險檢視機制。

在算力供應仍是產業擴張關鍵的背景下，市場再現大規模資料中心合作案：Nvidia與資料中心業者IREN傳出以最高5GW的部署規模為目標，並把德州Sweetwater園區定位為「AI工廠」式架構的旗艦落點。

一份針對網際網路上AI服務部署狀況的安全研究指出，在逾兩百萬個主機樣本中，出現約一百萬個對外暴露的AI相關服務。常見問題包括：預設未啟用驗證、容器配置不當、把API金鑰或管理憑證以明文方式放在設定檔或範例中，甚至把具高權限的代理工作流管理介面直接暴露在公網。

除了政策與安全，模型可靠性也有新進展。研究人員指出，部分推理型模型在強化學習訓練下容易變得更「自信」，即使在證據不足時仍以很高把握給出答案；問題不在於模型一定更常錯，而是錯時的自信會誤導使用者。

近期香港與亞太企業在評估AI專案時，越來越常遇到的瓶頸已不是模型選型，而是雲端配額、機房容量、電力與散熱條件。新一輪AI工作負載（尤其是推理與代理）會把需求推向更長時間的穩定供應，令「算力供應鏈」從晶片延伸到資料中心選址、電網接入、能源採購與施工週期。

各地政府對AI的關注，正由倫理宣示走向更具可操作性的規範設計：例如對高風險用途的審批與紀錄義務、對訓練資料與輸出內容的可追溯要求、以及對關鍵基礎設施與公共服務使用AI的安全評估。

生成式AI從聊天助手走向「可連接內部系統」的代理形態後，風險也從內容層面擴張到權限與流程層面。當AI能讀寫文件、調用API、執行自動化任務，任何提示注入、供應鏈污染、或權限設定失誤，都可能變成資料外洩或業務中斷的入口。

近期研究趨勢顯示，學界與產業逐步把焦點放在：如何用更少資源達到可用能力、如何降低幻覺與不確定性、以及如何把模型融入可驗證的流程。