AI晶片擴產推升算力,Token分級成成本關鍵
發佈日期
2026-11-12
更新頻率
不定期
報告格式
2027年AI晶片量續強成長,帶動算力供給逾翻倍;低精度運算與MoE架構降低推論成本,企業任務分級成關鍵,2028年後須留意供需失衡風險。
重點摘要
- 晶片出貨:2027年GPU與ASIC需求皆強,晶片量持續成長,算力供給有望逾翻倍。
- 算力結構:北美CSP自研ASIC占比提升,侵蝕既有晶片商份額;FP8漸成訓練新選項。
- 成本優化:FP4與MoE壓低單位Token推論成本,旗艦與高效模型產能及價格差距顯著。
- 風險展望:Agentic AI加重記憶體負擔;2028年後若推論需求不及供給,成長恐趨緩。
目錄
- 預期2027年CSP等終端客戶對GPU及ASIC需求仍強,帶動全球AI晶片量將成長
- 上游料件仍顯緊缺下,CSP等終端客戶將採不同等級LLM AI模型來提升Token使用效率
- AI訓練模型仍以BF16/FP16為主,但FP8逐漸浮現將為高效模型訓練選項
- BF16/FP16 Still Mainly Used For Training In 2026, But FP8 Becoming New Option
- AI推論需求驅動FP4算力快速成長,MoE架構成降低運算成本重要關鍵
- AI Model Developers Increasingly Adopt FP4 and MoE to Reduce Computational Costs
- 高效型LLM的Output Token量遠高於旗艦型,未來依不同任務決定採用AI模型級距以提升經濟效率將成顯學
- Classifying Requests To Different Levels of AI Model Grows Critical For Enterprises In Saving Costs
- 企業AI應用成本控制將成焦點,未來仍得觀察2028年後算力是否有供需失衡而成長趨緩風險
<報告頁數:8>
