新聞中心

TrendForce: NVIDIA GB300多項設計規格將有提升,估3Q25後整櫃系統將逐步擴大出貨規模


18 March 2025 半導體 TrendForce

根據TrendForce最新AI server供應鏈調查,預期NVIDIA將提早於2025年第二季推出GB300晶片,但就整櫃式server系統來看,其計算性能、記憶體容量、網路連接和電源管理等性能皆較GB200提升,因此,ODM等供應商需要更多時間進行測試與執行客戶驗證。觀察供應鏈近期動態,GB300相關供應商將於今年第二季陸續規劃設計作業,其中,估GB300晶片及Compute Tray(運算匣)等將於5月開始生產,ODM廠進行初期ES(engineering sample)階段樣機設計;預期第三季待機櫃系統、電源規格設計、SOCAMM等陸續定案及量產後,GB300系統可望逐步擴大出貨規模。

分析NVIDIA今年出貨情況,HOPPER平台目前仍是出貨大宗,新平台Blackwell則於第一季起逐步擴大放量,預計至第三季整櫃系統出貨量將以GB200為主。此外,得益於DeepSeek效應,近期中國市場對於特規版產品H20需求明顯提升。

接續的GB300有多項規格更新,其中,為搭配機櫃系統,GB300 NVL72的網通設計規格升級,以滿足更高頻寬需求,提升整體運算效能。而BBU(battery backup unit)雖然並非為GB300的標配,但隨著server機櫃功耗持續增加,預期客戶將擴大採用BBU配置。

在TDP(熱設計功耗)部分,2024年NVIDIA主流機種為HGX AI server,TDP落在60KW與80KW間,目前主推的GB200 NVL72機櫃因運算密度大幅提升,每櫃TDP達125KW至130KW。TrendForce預估,GB300機櫃系統功耗將再提升至135KW與140KW間,多數業者將持續採用Liquid-to-Air的散熱方式,確保散熱效果。

至於散熱零組件設計,目前GB200的Cold Plate(水冷板)是搭配一顆CPU和兩顆GPU的整合模組型態,到GB300將由整合模組改為各晶片獨立搭載Cold Plate,將提高Cold Plate在Compute Tray的價值。而QD(水冷快接頭)部分,由於Cold Plate模組改為各自獨立,將大量增加QD用量。而GB200的QD供應商以歐美業者為主,預期至GB300後將有更多台廠加入供應行列。

TrendForce指出,預期今年GB200和GB300 Rack方案放量情形將受幾項因素影響;首先,DeepSeek效應餘波盪漾,AI server主要客戶CSP將更重視AI投入成本與效益,可能轉向自研ASIC或設計相對簡易、成本較低的AI server方案。此外,GB200和GB300 Rack供應鏈能否如期完成整備也存在變數,後續實際供應進度和客戶需求變化仍待觀察。

若有興趣進一步了解並購買TrendForce旗下半導體研究處相關報告與產業數據,請至https://www.trendforce.com.tw/research/dram查閱,或洽詢SR_MI@trendforce.com。


下一則
TrendForce:2024年全球前十大IC設計業者營收合計年增49%,NVIDIA囊括半數占比

聯繫我們