近期財報顯示傳統CPU大廠的營收表現回升並超出市場預期，外界普遍把部分動能與AI帶動的伺服器需求連結在一起。這反映AI基礎設施的支出結構正在變化：從早期以模型訓練為主、對GPU高度集中，逐步走向推論與代理型工作負載擴張，令CPU、記憶體與互連的角色變得更吃重。
對企業IT架構而言，這意味著成本最佳化不再只是「多買GPU」。在推論規模擴大後，整體TCO常由資料搬移、上下游處理、儲存與網絡瓶頸決定。未來一年，混合配置（不同晶片搭配不同工作負載）、更精細的調度，以及針對推論的效能監控，將成為更常見的工程策略。