監管訊號:傾向「合作式治理」的同時,仍要面對高風險模型的時間差
政策面則傳出一個清晰訊號:政府對更嚴格的前置監管保持距離,仍傾向以與企業合作的方式推動安全部署。這種做法通常包含自願性安全測試、與實驗室建立通報與評估機制,以及在不阻礙上市速度的前提下,讓政府部門能理解新一代模型的風險輪廓。
美國擴大「模型上線前」政府評測合作,前沿 AI 進入常態化審查
美國商務部旗下單位與多家大型AI供應商簽署合作,讓政府在模型對外發布前就能進行能力與風險評測。這類安排代表前沿模型的「上線前測試」正從臨時性安排走向制度化:政府可在更早階段理解模型在資安、生物安全、化學武器等國安相關情境的行為,並把評測結果回饋到企業的安全改進流程。
Google「Android Show」於 I/O 前加場,手機與裝置端 AI 體驗成主戰場
Google在年度開發者大會前,先以線上節目形式集中更新Android生態,預期將涵蓋下一代系統功能、裝置體驗與延伸到更多場景的AI能力。
Google 指出「疑似 AI 協助」的零日漏洞利用程式,AI 攻防進入新階段
資安觀測顯示,攻擊者開始把AI用於漏洞研究與利用程式撰寫,甚至出現被判定為「高度可能由AI協助」的零日利用。此類案例的訊號在於:AI不一定要替代攻擊者的整體決策,只要能加速資訊整理、樣板化腳本產生與錯誤修正,就足以縮短從發現到武器化的時間。
產業推動資料中心新一輪投資:AI 需求把電力、散熱與供應鏈推到前台
顧問研究指出,為了滿足AI工作負載,全球資料中心相關投入在本世代可能達到極高規模,且瓶頸不只在晶片,更在電力取得、散熱設計、機電工程與交付能力。
約 100 萬個對外暴露的 AI 服務被盤點:自建 LLM/代理平台成為新攻擊面
自建推理服務、代理工作流與聊天介面近一年快速普及,但安全基線往往落後於部署速度。最新研究把焦點放在「對外可見」的AI相關服務:不少端點可能在未設置驗證、或使用預設高權限帳號的情況下直接暴露到公網。
研究界補上「可信度表達」:讓模型學會說不確定,而不是硬答
除了政策與安全,模型可靠性也有新進展。研究人員指出,部分推理型模型在強化學習訓練下容易變得更「自信」,即使在證據不足時仍以很高把握給出答案;問題不在於模型一定更常錯,而是錯時的自信會誤導使用者。
AI 算力從「買得到 GPU」走向「拿得到電與機房」
近期香港與亞太企業在評估AI專案時,越來越常遇到的瓶頸已不是模型選型,而是雲端配額、機房容量、電力與散熱條件。新一輪AI工作負載(尤其是推理與代理)會把需求推向更長時間的穩定供應,令「算力供應鏈」從晶片延伸到資料中心選址、電網接入、能源採購與施工週期。
從原則性框架走向可執行的合規要求
各地政府對AI的關注,正由倫理宣示走向更具可操作性的規範設計:例如對高風險用途的審批與紀錄義務、對訓練資料與輸出內容的可追溯要求、以及對關鍵基礎設施與公共服務使用AI的安全評估。
代理化與工具鏈擴張,讓攻擊面變得更難管理
生成式AI從聊天助手走向「可連接內部系統」的代理形態後,風險也從內容層面擴張到權限與流程層面。當AI能讀寫文件、調用API、執行自動化任務,任何提示注入、供應鏈污染、或權限設定失誤,都可能變成資料外洩或業務中斷的入口。
認知型模型評測再被挑戰:能答對不等於理解題目
研究界也有一則提醒「不要被高分迷惑」的訊號。近期對一個主打模擬人類認知行為的模型提出質疑:模型在大量心理學任務上表現亮眼,但後續測試透過改寫提示語,觀察模型是否真正依指令理解題意;結果顯示,它可能更像是在記憶資料集的答案模式,而不是理解問題本身。
用 AI 反推「新物理」:從塵埃電漿的粒子軌跡找出非對稱作用力規律
最後是一則研究突破:有團隊以物理導向的神經網路,從高精度3D粒子軌跡中分離不同力的影響,並對粒子間的非互易(單向)作用力做出高準確描述,還推翻部分長期使用的簡化假設。
投行上調 AI 市場規模預期,企業導入仍在加速
有投行基於企業採用加速,上調對全球AI市場的規模預期,並指出程式開發、流程自動化等場景帶動需求。這類觀點的核心在於:AI正從單點試驗走向流程再造,價值不再只來自「替代人力」,也包括縮短交付時間、降低錯誤率、提升營運彈性與客戶體驗。
Meta 提出以太空太陽能支援 AI 資料中心用電
隨著生成式AI推理與代理式工作流迅速普及,資料中心的用電需求成為擴張速度的硬限制之一。市場近期關注一種更激進的供電想像:透過太空部署的太陽能系統收集能量,並以可用於電網的方式回傳地面,為高耗能的AI機房提供新增電力來源。
Google 擴建奧地利資料中心,強化歐洲 AI 與雲端承載
在歐洲各國對資料主權、低延遲與在地化算力的需求上升之際,大型雲端平台持續加碼區域性資料中心建設。最新進展顯示,有業者在奧地利推進新一輪機房投資,並以支援AI與雲端工作負載為主要訴求,同時強調能源與散熱等永續設計。
Intel 上調營收展望,AI 伺服器需求帶動供應鏈再評價
半導體產業的AI動能近期再度推升市場情緒,其中一個關鍵訊號來自晶片廠對後續營收的較強指引。市場解讀為:AI伺服器與資料中心平台的需求仍在擴張,而且受益者不僅限於加速器,包含CPU、互連、記憶體與整機平台的需求也可能被重新估值。
Verda 獲 1.17 億美元資金,擴張區域性 AI 雲端算力供給
算力需求上升不只吸引既有巨頭擴建,也讓「提供新一代雲端算力」的基礎設施新創更容易取得資金。近期有雲端基礎設施公司宣布取得1.17億美元的股權與債務組合融資,用於產品研發、進入新市場與擴張營運團隊。
美國 AI 監管成為政治攻防焦點,聯邦與州層級規則走向受關注
除了算力與資本,監管也正在快速影響AI產業節奏。近期討論焦點之一是:聯邦層級是否會推動統一框架以降低企業面對各州差異規則的負擔,或是保留州政府在隱私、演算法問責、兒少保護、生物特徵資料與高風險AI使用上的更大空間。
加州推動 AI 採購與供應商認證標準,合規壓力由政府採購向外擴散
美國地方政府開始把生成式AI的安全、隱私與公民權利要求,轉化為採購與供應商資格門檻。這類做法的影響在於:即使規範本身不等同全面立法,供應商為了拿到政府合約,往往會把相同的合規框架帶回產品標準與商務條款,進而外溢到更廣的市場。
提示注入風險再受關注:企業導入 AI 助理需把「最小權限」放在設計起點
隨著AI助理逐步接入文件、郵件與內部知識庫,提示注入這類攻擊被反覆提醒:攻擊者可能把隱藏指令夾在看似正常的內容中,誘導系統在摘要、檢索或自動化操作時洩漏資料或執行未授權行為。
劍橋大學展示 HfO₂ 類腦記憶電阻:用材料與介面工程降低 AI 硬體能耗
研究端則有一條值得關注的路線:以記憶電阻(memristor)等元件實現「記憶與運算同址」的類腦運算,減少資料在記憶體與運算單元之間搬移所耗費的能量。
AI 投資熱度延續,但估值與真實成長之間的落差更受審視
市場近期仍出現多筆大型AI融資與高估值案例,資金集中於模型能力、推理基建與垂直應用平台。相較於過去只看「模型規模」,投資人更在意可持續的商業化路徑:例如推理成本下降的幅度、客戶留存、以及是否能把工作流程做成可量化的ROI。
生成式 AI 與選舉、公共議題的交集擴大:治理從「內容」走向「鏈路」
多地在公共議題場景中面對AI生成內容的擴散,討論焦點逐漸從「單一內容真偽」轉向「傳播鏈路與平台責任」:例如要求更清楚的生成標示、可追溯的來源證明、以及在高風險期間的快速處置機制。
創投資金再創高位:AI 佔全球風投投放的大多數
最新季度數據顯示,全球風投資金在短時間內高度集中到少數大型AI企業,令「算力、人才、數據」的競爭更趨白熱化。對香港與區內公司而言,這意味供應鏈、雲端算力採購與跨境合作成本可能上升,但同時也反映市場仍願意為可落地的AI產品與基建買單。
美國公布 AI 政策框架:主張統一聯邦方向並限制州級碎片化
美國公布的新框架以「促進創新、保護兒童、保障言論與知識產權」等主題為核心,並傾向以既有監管機構與產業標準來管理AI,而非另設全新的統一監管機關。
機械人 AI 走向「更會推理」:神經+符號方法大幅省電並提升成功率
在機械人領域,研究團隊展示把神經網絡與符號推理結合的做法,可在需要長步驟規劃的任務中顯著減少試錯,並把訓練與執行能耗降到傳統方法的一小部分。
產業策略轉向:從「比模型」到「比交付」與「比治理」
近期多項訊號顯示,市場對AI的評價逐步從單一指標(例如參數量或榜單)轉向「能否以合理成本交付到業務流程」:包括更有效率的推理、可控的安全措施、可追溯的數據與版權處理,以及能否在企業內部系統整合。
AI 政策走向「安全評估前置」:高風險能力觸發更嚴格的上線門檻
從政府與企業的互動可見,政策討論正由「原則性倡議」轉向「可操作的前置評估」。當模型被認定具備更強的網絡攻擊或自動化能力時,監管方與採購方會更強調:第三方安全測試、限制可用客戶範圍、以及在上線前完成紅隊演練與風險披露。