[市場洞察] Token Factory 時代：重塑企業AI基礎設施的六大關鍵

導言：31.6 兆美元的算力投資，如何轉化為 Token 產能與 AI 生產力 ? 

企業投入 AI 伺服器、GPU 叢集與資料中心的成本持續攀升，但硬體數量並不等於可用的 AI 生產力。真正限制 AI 規模化的，往往是 GPU 閒置、資源碎片化、工作負載排隊、異質算力難以統一管理，以及推論成本不透明。

2026 年下半年發布的多份全球顧問機構報告指向同一個結論：AI 基礎設施的衡量方式，正由「擁有多少 GPU」，轉向「系統能否以更高效率，把能源與算力轉化為 Token、推論結果與完成的 AI 任務」。Token Factory 的核心產出，正被定義為可衡量的 Token 吞吐量。

數位無限軟體彙整 PwC、McKinsey、Bain、BCG 與 KPMG 2026年Q4市場分析報告；並說明 INFINITIX 數位無限的 AI-Stack 與 ixCSP，如何以軟體定義基礎設施的方式，協助企業把 GPU 資產轉化為可衡量的 AI 產出。

市場洞察一：兆美元級的算力建設，流向硬體基礎設施及電力設備

全球 AI 資料中心資本支出已進入兆美元級規模，且資金高度集中在會持續汰換的運算設備。這意味著每一張 GPU 的使用效率，直接決定投資回報。

Bain 指出，電力、硬體與技術人力同時受限，「等市場自行調節的企業將被鎖在門外」，並建議企業科技領導者把算力取得視為供應鏈風險，也視為策略資產。對多數企業而言，最快、最可控的「新算力」，就藏在既有 GPU 的閒置時段裡。

市場洞察二：Agentic AI 放大價值，也放大算力與 Token 成本

推論正取代訓練，成為 AI 算力的主要消耗來源。McKinsey 估計，2030 年推論將佔全部資料中心需求的 30%–40%，並成為 AI 算力的多數。Agentic AI 進一步放大這個趨勢。

• 價值已實現，但集中在領先者。 BCG Applied AI Index 2026（調查超過 1,300 位 CxO）指出，近 50% 的企業已從 AI 獲得可衡量價值；策略清晰度與應用成熟度兼備者，AI 價值是兩者皆缺者的 5 倍（4.5% vs. 0.9% 營收）。

• AI 支出快速放大。 BCG 調查企業的 AI 支出已由前一年約營收 1% 升至 3.3%；McKinsey 引述的調查中，93% 的受訪者表示 AI 預算超支。

• Token 成為財務管理項目。 McKinsey 指出，Token 支出與推論成本已從「掃尾數」變成重大營運項目，企業開始將 Token 消耗視為受治理的財務資源；基礎設施供應商則把 Token 吞吐量、每 Token 成本與推論效率列為核心優先事項。

• 單價下降，總成本未降。 Bain 指出平均每 Token 成本下降，但用量增長更快，每項任務成本仍高；新的 Agentic 工作流初版成本可能是優化後的 10 倍。

• 領先者管理 Token，而非放任。 BCG 發現 75% 的「future-built」企業已對 Token 支出設定明確回報目標；落後者有 50% 不追蹤或不設限。

• 平台化是分水嶺。 超過三分之二的 future-built 企業集中建置公司級 AI 平台，目標是共用架構與控制平面（control plane），而非單一廠商堆疊；落後者僅約五分之一。

Bain 的建議是「以工作流，而非以使用者」衡量成本：真正該問的是完成一份提案、解決一筆客服案件要花多少。這正是 AI FinOps 的起點。

市場洞察三：製造業準備規模化，異質算力成為新常態

企業端正從試點走向規模化，而硬體架構同時走向多元。兩者疊加，讓「如何統一調度不同算力」成為 IT 部門的新課題。

• 製造業的規模化時間表。 KPMG Global Tech Report 2026：工業製造調查 22 個國家與地區、258 位製造業科技主管：49% 表示 AI 應用已帶來商業價值，68% 預期未來 12 個月內規模化部署 AI，89% 認為管理 AI Agent 將在五年內成為關鍵能力。

• 異質算力是常態，不是例外。 McKinsey 指出，資料中心正部署異質系統，由 ASIC、專用加速器與通用處理器各司其職；Bain 也指出 GPU、CPU、ASIC 以不同組合支援推論與 Agentic 工作負載，客製晶片已是成長最快的資料中心運算晶片類別。

• Agentic 工作負載會讓加速器閒置。 Bain 指出，Agent 在等待工具呼叫時會讓加速器閒置，因此需要更精細的記憶體與資源調度。

• 資料與治理仍是痛點。 KPMG 調查中 ，76% 的製造業主管將不可靠的資料列為 AI 的主要風險。

當一家企業同時擁有不同世代的 GPU 與 NPU，又要支援多個事業單位的訓練與推論需求，缺少統一的軟體層，資源就會被切成一個個孤島。

市場洞察四：衡量典範轉移：從「擁有多少 GPU」到「產出多少 Token」

AI 基礎設施的 KPI 正從資產規模，轉向單位能源與單位算力的產出。Token Factory 的概念，是把資料中心視為一座生產 Token 的工廠：輸入是電力與算力，輸出是 Token、推論結果與完成的 AI 任務。

McKinsey 引用業界觀點指出，「推論正成為企業 AI 的營運成本」；長期採用程度可能更取決於推論能否以經濟可持續的規模交付，而非模型能力本身。換句話說，誰能以更低的每 Token 成本穩定交付，誰就掌握 AI 規模化的主導權。

市場洞察五：訓練、推論與 Agentic，需要不同的資源調度

不同 AI 工作負載對算力的需求截然不同，用同一種方式分配 GPU，必然造成浪費。McKinsey 指出，「推論正成為企業 AI 的營運成本」，推論與 Token 成本已是阻礙 AI 規模化的核心營運挑戰；Bain 則指出，訓練、推論與 Agentic 工作負載各自適合不同的硬體與調度方式。

模型端的趨勢，也讓調度更複雜：

• 模型組合取代單一模型。 McKinsey 指出，競爭優勢正從「取得最大的模型」轉向「經營模型組合」，在效能、成本、速度與治理間取得平衡；小型語言模型（SLM）、模型壓縮與開放權重模型，讓地端與邊緣部署更可行。

• 以最小可用模型完成任務。 BCG 建議將任務路由至「能滿足需求的最小模型」，並以「每次成功產出的成本」取代「每 Token 成本」作為衡量單位；Bain 也建議例行任務改用較便宜或自建的開放權重模型。

• 物理 AI 拉高訓練需求。 McKinsey 指出，世界模型讓企業能在模擬環境中訓練與驗證模型，GPU 加速模擬則可大幅縮短訓練時程。

當同一座 GPU 叢集要同時承載訓練、推論與 Agentic 工作負載，又要支援多種模型，企業需要的是一層能依工作負載特性動態切割、聚合與排程算力的軟體。

市場洞察六：五大效益瓶頸 !  為什麼 GPU 買了，生產力卻沒跟上？

多數企業的問題不在算力不足，而在算力無法被有效使用。以下五個瓶頸，是從 GPU 資產到 Token 產出之間最常見的流失點。

這五個瓶頸的共同根源是：硬體以「張」為單位分配，但 AI 工作負載是以「任務」為單位發生。解法不是再買更多卡，而是在硬體之上加一層軟體，讓算力可切割、可聚合、可調度、可計量。

數位無限 AI-Stack × ixCSP：以軟體定義硬體，組成完整的 Token Factory

AI-Stack 與 ixCSP 構成一套從 GPU 資源池到付費使用者的完整堆疊：AI-Stack 負責「把算力跑滿」，ixCSP 負責「把算力賣出去」。

Token Factory 架構 · 運算平面、控制平面、服務層

硬體層可以持續汰換、混用不同品牌，上層的排程、治理與計費邏輯保持不變，這就是軟體定義基礎設施的意義。

AI-Stack 解決方案：把 GPU 資產變成可調度的算力池

AI-Stack 是 INFINITIX 的 GPU 資源管理平台，定位為「軟體定義 GPU 與 AI 基礎設施」。它負責 Token Factory 的運算平面與控制平面：把分散的異質 GPU/NPU 整合為單一資源池，再依工作負載需求動態分配。

根據 INFINITIX 客戶導入經驗，AI-Stack 可將 GPU 利用率提升至 90% 以上，開發環境建置時間由 2 週縮短至 1 分鐘，加速產業AI落地及運營。2026 年，AI-Stack 在醫療、製造與物理 AI 研發領域持續擴大落地：

• 高雄醫學大學附設中和紀念醫院（高醫）： 成為台灣首家導入 NVIDIA B300 GPU 平台的醫療機構，以 AI-Stack 作為核心 AI 基礎設施管理層，提供集中式 GPU 排程、工作負載治理與資源可視化，支援大型語言模型與視覺語言模型在臨床與研究場域穩定運行。

• 彰化基督教醫院（彰基）： 導入 AI-Stack 整合 NVIDIA B200 GPU 算力，以智慧排程與資源切割彈性配置運算資源，並透過多租戶管理與權限控管，支援不同醫療團隊與研究專案並行進行模型開發、訓練與驗證。

• 日本國立大學法人電氣通信大學 ELSA 實驗室： 導入 AI-Stack 加速物理 AI（Physical AI）研發，透過 GPU 資源池化與智慧排程，讓研究團隊依需求即時取得算力，支援物理 AI 模型的開發、訓練與驗證。

• 韓國智慧製造創新中心（Smart Manufacturing Innovation Center，SMIC）： 由韓國電子技術研究院（KETI）建置的國家級實證場域。AI-Stack 協助建置製造 AI 共享算力平台，以多租戶架構支援多位研究人員與多項專案並行開發、訓練與驗證 AI 模型，透過智慧調度減少 GPU 閒置，並支援製造業專用基礎模型（MFM）研究。

以 BCG 提出的「共用架構與控制平面、而非單一廠商堆疊」標準來看，AI-Stack 正是企業算力層的控制平面：硬體可以多元，管理邏輯必須統一。

ixCSP 解決方案：把算力轉化為可計量的 AI 服務

ixCSP 是 INFINITIX 的 AI 雲端營運平台，定位為「把 AI 基礎設施變成 Token Factory」。若說 AI-Stack 讓算力跑得更滿，ixCSP 則讓算力以服務形式被使用、被計量、被收費，對應 Token Factory 的服務層。

ixCSP 適用於兩類場景。一是企業內部的私有 AI 雲：由 IT 部門提供算力與模型服務，並以用量回帳各事業單位，實踐 Bain 「以工作流衡量成本」的原則。二是 GPU 雲端服務商、電信業者與主權 AI 算力中心：在自有基礎設施上推出可收費的 AI 服務，把資本支出轉為經常性營收。

建議導入路徑

1. 盤點與基準： 盤點既有 GPU/NPU 資產，建立利用率、排隊時間與各部門用量的基準線。

2. 資源池化： 以 AI-Stack 整合異質算力，啟用 GPU 切割、聚合與智慧排程，優先回收閒置與碎片化的算力。

3. 訓練與推論分流調度： 依工作負載特性配置算力。模型訓練以 GPU 聚合與跨節點運算取得連續的多卡資源，並依優先級排程，縮短訓練週期；模型推論以 GPU 切割讓多個推論服務共享算力，依模型大小與延遲需求分配資源，避免小型服務獨佔整張大卡。離峰時段的推論算力也可回收給訓練任務使用。

4. 治理與可視化： 設定多租戶配額，導入 AI FinOps 儀表板，讓成本可歸屬到部門、專案與模型。

5. 服務化： 以 ixCSP 推出 GPU、模型與 Token 服務，對內回帳、對外收費。

6. 以 Token 為 KPI： 持續追蹤每瓦 Token、每 Token 成本與每工作流成本，指引下一輪硬體投資。

結語：下一輪競爭，比的是每張 GPU 的 Token 產能

當算力供給受限於電力與供應鏈、Token 需求又隨 Agentic AI 倍增，企業最具槓桿的投資，往往不是下一批 GPU，而是讓既有 GPU 跑滿、跑對、算得清。硬體會汰換，軟體定義的管理能力則會持續累積。

更重要的是，AI 工作負載正從以訓練為主，轉向訓練、推論與 Agentic 並存；企業也從依賴單一大型模型，轉向經營大小模型與開放權重模型的組合。衡量標準也隨之改變，從每 Token 成本，走向每次成功產出的成本。能依工作負載特性動態切割、聚合與排程算力，並把每一份算力對應到可計量的產出，將是 Token Factory 能否規模化的關鍵。

INFINITIX 數位無限自 2003 年於台灣台北市成立，已服務 250 家以上企業與組織，市場涵蓋台灣、日本、韓國及東南亞。歡迎聯繫我們的團隊，安排 AI-Stack 與 ixCSP 產品展示，評估您的 GPU 利用率與 Token Factory 導入路徑。

參考資料

• PwC, Where $31.6 trillion of capex flows in the era-defining AI build-out (Global Data Centre Outlook 2026–50), 2026/09/02

• McKinsey & Company, Technology Trends Outlook 2026（報告 PDF）

• Bain & Company, Technology Report 2026（報告 PDF）；含「New Innovation Is Required to Fund AI's $6 Trillion Buildout」、「AI Data Center Boom」、「Managing Token Spending without Choking Off Opportunity」等章節

• BCG, The Formula for Agentic AI Value: The Applied AI Index 2026, 2026/09（報告 PDF）

• KPMG, Global Tech Report 2026: Interoperability, AI, and the new rules of manufacturing excellence

• INFINITIX 產品與客戶導入資料：www.infinitix.ai