黃仁勳:代理AI、算力工廠時代已經來臨!
輝達執行長黃仁勳1日發表主題演講,強調代理式AI系統、AI算力工廠與高效晶片的重要性。(中央社示意圖)
「代理式AI系統、AI工廠將會是未來發展趨勢!」輝達執行長黃仁勳1日發表主題演講時強調,AI讓軟體的需求倍增,但這些軟體需以統合性的「代理式AI」系統進行整合與思考;另外,他也介紹與展現了他打造的AI超級電腦Vera Rubin,並呼籲生態系夥伴們買更多算力、增加每瓦可運用的算力。
軟體需求只會更多
一身經典黑夾克套裝的輝達執行長黃仁勳1日發表主題演講,會場首先撥放黃仁勳強調的「Token」,包括智慧醫療、手術、機器人、生產線、資料中心、自動駕駛等領域。
他一開始就表示,感謝臺灣作爲一切的起點,有許多的合作伙伴與生態系幫助他,但他也俏皮的列了花娘小館、富霸王餐廳,讓與會者都笑了出來。
「代理式(agent)AI的時代已經來臨!」黃仁勳強調,大家都認爲AI讓軟體工程師失業,但這是無稽之談,實際上開源軟體Github創造的產值愈來愈大,已經將近3兆美元、9兆美元的生產力,實用的AI已經來臨,成爲獲利來源。
他說,以前要用許多的應用程式,如今透過代理式AI系統,將大型語言模型融合、編排,AI理解與思考後,直接產生最後的結果。
2小時工作僅需5分鐘
「超級電腦將拿來運作代理式AI!」黃仁勳也強調,輝達以前是製造晶片的公司,但如今正逐漸轉型爲AI基礎建設的公司,輝達的Vera Rubin有256顆CPU,還有安全、儲存系統與網路技術,但沒有纜線與風扇,過去兩個小時的處理工作,如今只需要5分鐘,Vera Rubin是整個公司最有野心的計劃。
黃仁勳強調,輝達轉型的背後,有許多生態系廠商的合作,還有將大量技術應用在基礎建設,包括髮電機、冷卻系統與電網供應商。他也指出,輝達希望打造全球系統都需要的基礎建設,在各地都有云端服務供應商,且各自的合作伙伴都相當厲害,包括金融、影像生成、電信公司,谷歌、韓國銀行與現代汽車等。
網路速度、CPU效率
「算力(token)就是營收,每瓦吞吐量也是營收!」黃仁勳強調,買愈多算力、傳的可以更多,因爲在未來掌握算力就是掌握營收,未來將是AI到處都是的時代,AI工廠與基礎建設將全力運作,但未來也要面臨的挑戰是產品的生命週期,因爲每個幾個月軟體就會快速更新,很難預測一個系統會運作多久。
黃仁勳也說,代理式AI系統是分解與分散式的,因此網路傳輸速度就是關鍵,要將CPU與GPU、儲存系統等部分快速連結,頻寬需要達到世界頂尖的標準。他指出,CPU過去是爲了人類設計的,但未來將有大量機器人與程式使用、而且這些程式需要大量算力與能源,因此CPU需要高效能與能源效率。
【更多精采內容,詳見】