研究報告

AI晶片擴產推升算力,Token分級成成本關鍵

icon

發佈日期

2026-11-12

icon

更新頻率

不定期

icon

報告格式

PDF



2027年AI晶片量續強成長,帶動算力供給逾翻倍;低精度運算與MoE架構降低推論成本,企業任務分級成關鍵,2028年後須留意供需失衡風險。

重點摘要

  • 晶片出貨:2027年GPU與ASIC需求皆強,晶片量持續成長,算力供給有望逾翻倍。
  • 算力結構:北美CSP自研ASIC占比提升,侵蝕既有晶片商份額;FP8漸成訓練新選項。
  • 成本優化:FP4與MoE壓低單位Token推論成本,旗艦與高效模型產能及價格差距顯著。
  • 風險展望:Agentic AI加重記憶體負擔;2028年後若推論需求不及供給,成長恐趨緩。

目錄

  1. 預期2027年CSP等終端客戶對GPU及ASIC需求仍強,帶動全球AI晶片量將成長
  2. 上游料件仍顯緊缺下,CSP等終端客戶將採不同等級LLM AI模型來提升Token使用效率
  3. AI訓練模型仍以BF16/FP16為主,但FP8逐漸浮現將為高效模型訓練選項
    • BF16/FP16 Still Mainly Used For Training In 2026, But FP8 Becoming New Option
  4. AI推論需求驅動FP4算力快速成長,MoE架構成降低運算成本重要關鍵
    • AI Model Developers Increasingly Adopt FP4 and MoE to Reduce Computational Costs
  5. 高效型LLM的Output Token量遠高於旗艦型,未來依不同任務決定採用AI模型級距以提升經濟效率將成顯學
    • Classifying Requests To Different Levels of AI Model Grows Critical For Enterprises In Saving Costs
  6. 企業AI應用成本控制將成焦點,未來仍得觀察2028年後算力是否有供需失衡而成長趨緩風險

<報告頁數:8>

BF16/FP16 Still Mainly Used For Training In 2026, But FP8 Becoming New Option





聯絡我們


聯絡我們