閱報秘書/新雲端業者(Neocloud)
新雲端業者(Neocloud)主要採購GPU、建置運算設備,再將算力提供給AI開發商及科技客戶,是專爲AI訓練與推論的功能爲核心的雲端服務提供模式。
相較於服務多種產業的大型雲端公司,新雲端業者的收入來源較集中,擴建所需的晶片與資料中心設備,卻需要投入大量資金。目前最具代表性的有CoreWeave、Nebius、Lambda、Nscale,以及近日受關注的日商Datasection。
新雲端業者營運模式以GPU爲核心進行設計,對於算力分配更有效率,降低閒置資源,並會根據AI工作負載導向的資源調度,解決AI訓練與推論在運算量、記憶體與執行時間上差異極大,所衍生出的效能不足或資源閒置的問題,因此成爲企業規劃AI基建時重點考慮對象。