AI伺服器出貨動能強勁帶動HBM（high bandwidth memory）需求提升，據TrendForce研究顯示，2022年三大原廠HBM市占率分別為SK海力士（SK hynix）50%、三星（Samsung）約40%、美光（Micron）約10%。此外，高階深度學習AI GPU的規格也刺激HBM產品更迭，2023下半年伴隨NVIDIA H100與AMD MI300的搭載，三大原廠也已規劃相對應規格HBM3的量產。因此，在今年將有更多客戶導入HBM3的預期下，SK海力士作為目前唯一量產新世代HBM3產品的供應商，其整體HBM市占率可望藉此提升至53%，而三星、美光則預計陸續在今年底至明年初量產，HBM市占率分別為38%及9%。
預估2023年AI伺服器出貨量年增15.4%
目前NVIDIA所定義的DL/ ML型AI伺服器平均每台均搭載4張或8張高階顯卡，搭配兩顆主流型號的x86 伺服器CPU，而主要拉貨力道來自於美系雲端業者Google、AWS、Meta與Microsoft。據TrendForce統計，2022年高階搭載GPGPU的伺服器出貨量年增約9%，其中近80%的出貨量均集中在中、美系八大雲端業者。展望2023年，Microsoft、Meta、Baidu與ByteDance相繼推出基於生成式AI衍生的產品服務而積極加單，預估今年AI伺服器出貨量年增率可望達15.4%，2023~2027年AI 伺服器出貨量年複合成長率約12.2%。
AI伺服器刺激Server DRAM、SSD與HBM需求同步上升
根據TrendForce調查，AI伺服器可望帶動記憶體需求成長，以現階段而言， Server DRAM普遍配置約為500~600GB左右，而AI伺服器在單條模組上則多採64~128GB，平均容量可達1.2~1.7TB之間。以Enterprise SSD而言，由於AI伺服器追求的速度更高，其要求優先往DRAM或HBM滿足，在SSD的容量提升上則呈現非必要擴大容量的態勢，但在傳輸介面上，則會為了高速運算的需求而優先採用PCIe 5.0。而相較於一般伺服器而言，AI伺服器多增加GPGPU的使用，因此以NVIDIA A100 80GB配置4或8張採計，HBM用量約為320~640GB。未來在AI模型逐漸複雜化的趨勢下，將刺激更多的記憶體用量，並同步帶動Server DRAM、SSD以及HBM的需求成長。
若有興趣進一步了解並購買TrendForce旗下半導體研究處相關報告與產業數據，請至https://www.trendforce.com.tw/research/dram查閱，或洽詢業務鍾小姐lattechung@trendforce.com。
TrendForce將於5月25日（四）於台大醫院國際會議中心402廳舉行「高速運算晶片助攻，AI新興解決方案應運而生」研討會。本次將邀請TrendForce分析師喬安，以及產業代表日月光、IBM、Supermicro、愛普科技、耐能智慧、ARM等一同參與，聚焦AI衍伸的相關技術發展。
相關文章
相關報告
