輝達:Vera Rubin火力全開量產 感謝臺灣150家夥伴

黃仁勳6月1日在臺北國際電腦展發表新款N1X處理器。法新社

輝達執行長黃仁勳今天舉行GTC Taipei大會主題演講,宣佈Vera Rubin已經火力全開進入量產階段,Vera Rubin是專爲智慧代理時代打造的一臺Pod式超級電腦,輝達在臺灣擁有150家供應鏈夥伴,共同重塑AI時代運算方式,感謝臺灣。

黃仁勳表示,大型語言模型可以產生答案,現在AI代理可以開始工作,觀察、推理、規劃並使用工具,能處理龐大的上下文,同時兼顧工作記憶與長期記憶,還能根據需求衍生出專職特定任務的子代理。

他指出,Vera Rubin是一款專爲處理代理式AI打造的多機架Pod級系統,整個供應鏈自動化製造與協同編排,一切始於臺積電組成Vera Rubin的7款全新晶片,經過數百道製程步驟才最終成型,包括臺積電的3奈米制程、CoWoS-R和CoWoS-L封裝。

此外,還有來自美光(Micron)、SK海力士(hynix)和三星(Samsung)的HBM4記憶體,VeraRubin計算板,一塊電路板整合了6兆個電晶體,和超過1.8萬個元件,Vera Rubin的NVL72負責思考提示詞與上下文理解、推理和規劃。

黃仁勳說,Vera Rubin採用一款新型模組化運算托盤,採用全新PCB中板設計結構更加精簡,Superchips、ConnectX9 SuperNIC和BlueField-4 DPU均可直接對接,無需電纜,從而在AI工廠規模上實現極高的韌性。

他表示,18個運算托盤、9個可熱插拔的NVLink交換器托架,全新的高效分流管,液冷母線承載超過5000安培的電流,相當於20輛電動車全速加速時的電流。

第3代MGX機架設計由130萬個組件組成,微軟的Vera Rubin NVL72工程機架投入使用,戴爾和Coreweave成功搭建其Vera Rubin NVL72工程機架。

黃仁勳指出,Vera CPU機架,將256箇中央處理器(CPU)封裝在單一液冷機架中,負責協調模型、重新分配記憶體、啓動工具。在富士康和廣達Groq 3LPX正在成型,256個Groq 3 LPU分裝於16個托盤上,每秒40PB的SRAM頻寬,實現超低延遲。

黃仁勳說,Vera BlueField-4 STX是AI儲存記憶的地方,BlueField-4加速儲存處理,將記憶體、儲存空間與晶片內建安全機制完美連結。

Spectrum-X乙太網路光子學,採用200Gbps共同封裝光學元件的乙太網路交換器,臺積電的COUPE製程、晶片級封裝,以及在磷化銦上的超高功率雷射裸晶技術。

黃仁勳表示,Vera Rubin由5個互聯的機架級系統組成,臺灣擁有150家供應鏈合作伙伴、數百萬平方英尺的廠房面積、數百個廠址,將晶片、封裝、系統和資料中心,在尺寸、功率與規模方面都推向極限。

黃仁勳說,輝達與臺灣共同實現極致協同設計,攜手重塑AI時代的運算方式。臺灣一開始就和輝達在一起,感謝臺灣。