AI資料中心競爭邏輯轉變：從硬體競賽走向Token生產效率

AI資料中心（AIDC）競爭邏輯正在改變，資策會產業情報研究所（MIC）指出，隨著AI推論與應用加速商業化，衡量AI基礎設施效率的標準，正從過去著重GPU數量、晶片理論算力（FLOPS），進一步轉向在固定電力供給之下，每瓦產出的Token與每單位Token成本（CPM），意味AIDC競爭逐漸從拚硬體走向「拚算力生產效率」。

資策會MIC日前舉辦2026 MIC FORUM研討會，會中專家指出Token產能與變現能力，正在改寫AIDC競爭邏輯，而「異質運算整合」與「機櫃分工」，將成為提升Token產出瓶頸的關鍵解方。

這項轉變也與代理式AI（Agentic AI）快速發展有關。MIC資深產業分析師陳奕伶指出，代理式AI需要反覆推理、工具呼叫以及長上下文存取，使得AI推論瓶頸從單純晶片算力，進一步移向記憶體容量與頻寬、CPU-GPU互連與整體系統的資料搬移效率。

為提高代理式AI運算效率，運算平台因此開始轉向「異質整合」，從晶片一路延伸至系統層級，讓不同運算元件各司其職、協同運作，打造異質算力池，藉此提高資源利用率，希望以最低成本及最高利用率，並在有限電力條件下極大化Token產量。

除了異質運算，未來AIDC的機櫃架構也可能出現更明確的「分工」。MIC表示，未來AIDC將由高算力、大容量快取及高速儲存等不同角色機櫃共同組成，異質機櫃的資產利用率管理，將取代單一硬體規格競賽。

資深產業分析師陳奕伶表示，這場從晶片效能走向系統效率的競爭也將為臺廠帶來升級機會，臺灣在AI伺服器製造已站穩樞紐，面對異質運算與客製化ASIC（特殊應用積體電路）趨勢，臺廠需具備跨平台的快速導入、共同設計與快速量產能力，下一階段的價值提升，將在於從硬體製造延伸至能夠提升系統級Token效率的解決方案。