根據TrendForce最新AI server供應鏈調查，預期NVIDIA將提早於2025年第二季推出GB300晶片，但就整櫃式server系統來看，其計算性能、記憶體容量、網路連接和電源管理等性能皆較GB200提升，因此，ODM等供應商需要更多時間進行測試與執行客戶驗證。觀察供應鏈近期動態，GB300相關供應商將於今年第二季陸續規劃設計作業，其中，估GB300晶片及Compute Tray(運算匣)等將於5月開始生產，ODM廠進行初期ES(engineering sample)階段樣機設計；預期第三季待機櫃系統、電源規格設計、SOCAMM等陸續定案及量產後，GB300系統可望逐步擴大出貨規模。
分析NVIDIA今年出貨情況，HOPPER平台目前仍是出貨大宗，新平台Blackwell則於第一季起逐步擴大放量，預計至第三季整櫃系統出貨量將以GB200為主。此外，得益於DeepSeek效應，近期中國市場對於特規版產品H20需求明顯提升。
接續的GB300有多項規格更新，其中，為搭配機櫃系統，GB300 NVL72的網通設計規格升級，以滿足更高頻寬需求，提升整體運算效能。而BBU(battery backup unit)雖然並非為GB300的標配，但隨著server機櫃功耗持續增加，預期客戶將擴大採用BBU配置。
在TDP(熱設計功耗)部分，2024年NVIDIA主流機種為HGX AI server，TDP落在60KW與80KW間，目前主推的GB200 NVL72機櫃因運算密度大幅提升，每櫃TDP達125KW至130KW。TrendForce預估，GB300機櫃系統功耗將再提升至135KW與140KW間，多數業者將持續採用Liquid-to-Air的散熱方式，確保散熱效果。
至於散熱零組件設計，目前GB200的Cold Plate(水冷板)是搭配一顆CPU和兩顆GPU的整合模組型態，到GB300將由整合模組改為各晶片獨立搭載Cold Plate，將提高Cold Plate在Compute Tray的價值。而QD(水冷快接頭)部分，由於Cold Plate模組改為各自獨立，將大量增加QD用量。而GB200的QD供應商以歐美業者為主，預期至GB300後將有更多台廠加入供應行列。
TrendForce指出，預期今年GB200和GB300 Rack方案放量情形將受幾項因素影響；首先，DeepSeek效應餘波盪漾，AI server主要客戶CSP將更重視AI投入成本與效益，可能轉向自研ASIC或設計相對簡易、成本較低的AI server方案。此外，GB200和GB300 Rack供應鏈能否如期完成整備也存在變數，後續實際供應進度和客戶需求變化仍待觀察。
若有興趣進一步了解並購買TrendForce旗下半導體研究處相關報告與產業數據，請至https://www.trendforce.com.tw/research/dram查閱，或洽詢SR_MI@trendforce.com。
相關文章
相關報告
