在当前AI和高性能计算(HPC)慢慢的变成为各行各业核心技术的背景下,NVIDIA的GB200整柜式方案(Rack)备受市场关注。据TrendForce集邦咨询最新调查显示,由于GB200在高速互通界面和热设计功耗(TDP)等方面的设计规格明显高于市场主流,供应链的优化进程还需时日,预计GB200的出货高峰将延至2025年第二季度至第三季度之间。
NVIDIA的GB200和GB300这些新一代整柜方案,是以提升AI和HPCServer系统整体运算效能为目标开发的,其中最重要的技术之一便是第五代NVLink。这种高频宽的技术上的支持GPU芯片之间的高速互连,可以在一定程度上完成前所未有的数据处理能力。与当前主流的PCIe 5.0相比,NVLink提供的总频宽大幅度的提高,使得GB200在高速计算场景下具有无与伦比的优势。
与此同时,GB200整柜的每柜TDP达到了140KW,这一数值是市面上主流AI服务器的两倍,进一步强调了GB200在冷却解决方案上所面临的挑战。由于传统的气冷散热方式已不足以满足如此高的散热需求,液冷技术成为了GB200机柜的重要选择。
TrendForce指出,液冷散热方案在GB200机柜方案的研发中扮演着关键性角色。相关企业正在积极研发优化冷却分配系统(CDU),扩大机柜尺寸并采用更高效的冷却板(Cold Plate)以提升散热效能。目前,Sidecar CDU的散热要集中在60KW至80KW,但随技术的进步,未来这些方案的涡流效应可望实现双倍甚至三倍的提升。此外,更先进的液对液(L2L)型in-row CDU方案的散热能力已超越1.3MW,此类变革为应对未来计算需求的爆炸性增长提供了保障。
然而,GB200机柜的市场接受程度仍面临挑战,由于其零部件复杂性以及高成本,主要客户群体集中在大型云服务提供商(CSP),Tier-2数据中心及国家主权云和学术研究单位。这些市场既看重其强大的性能,又对稳定的供应链要求极高。TrendForce的调查的最终结果指向了此类风险,预计2024年第四季度GB200 GPU的出货量将有限,而在2025年第一季度后则需观察逐季放量的情况。
展望未来,NVIDIA在GB200机柜方案的市场地位预计将明显提升,尤其在AI和HPC营运场景中,其市场占有率有可能接近80%。基于当前的发展动态,行业专家一致认为,尽管存在诸多挑战,GB200机柜的技术创新和供应链的持续改进将为市场注入新的活力。
总的来看,GB200的推向市场不仅是一个技术上的突破,更代表了未来AI及HPC产业的潜在走向。随着液冷技术和供应链的优化,市场将为AI发展提供更坚实的基础。同时,企业在发展的策略中应关注这些新兴技术,以便抓住数字化转型的机遇。以上种种都在引导着行业向着更高的技术标准和市场需求不断前进。通过展望2025年,GB200机柜将以其卓越的性能和创新技术,预计将占据更多市场占有率,为AI和HPC的未来发展树立新的标杆。