字節跳動增購陸國產AI晶片

字節跳動擬採購天數智芯的5萬顆AI晶片,建立訓練與推論分離供應鏈,天數智芯將成爲華爲和寒武紀之後,字節跳動的第三家國產GPU供應商。

分析指出,推論規模遠大於訓練,國產晶片已具落地能力;在政策要求下,大廠加速導入本土晶片,但仍存在技術與整合上的障礙需要磨合。

第一財經引述業內人士,字節跳動正與天數智芯洽談採購至少5萬顆AI晶片,主要用於推論運算。此次討論的晶片將用於大型模型的推論負載,對應天數智芯「智鎧」系列雲端推論GPU。若交易達成,天數智芯將成爲繼華爲、寒武紀之後,字節跳動的第三家GPU供應商。

字節跳動已明確區分訓練與推論兩套晶片供應體系。大型模型訓練採用主要採用華爲升騰與寒武紀的高階訓練晶片;面向消費端應用的「豆包」以及企業端MaaS(模型即服務)的大規模推論需求,則導入天數智芯「智鎧」系列等專用推論GPU。

除了字節跳動,百度也在佈局「萬卡級」AI算力集羣規模,阿里巴巴預估未來三年投入超過人民幣3,800億元,加碼雲端與AI運算基礎設施;騰訊則在多地建設騰訊雲高效能AI叢集,並預計於2026年下半年大規模導入國產算力。