2024基于标准PCIe接口的人工智能加速卡液冷设计白皮书- 降低服务器和冷板式人工智能加速卡之间的适配难度

冷板式人工智能加速卡在结构设计、流体快插接头、热性能设计等方面无统一设计要求，服务器针 对不同厂商的冷板式人工智能加速卡需要进行结构和散热适配，耗费大量人力、物力。本技术白皮书主 要制定标准PCIe接口形态的冷板式人工智能加速卡在结构设计、冷板设计、流体快插接头选型、热性能 设计、可靠性设计方面的要求，用于指导冷板式人工智能加速卡的设计。通过本白皮书提供的设计指导， 降低服务器和冷板式人工智能加速卡之间的适配难度，降低适配的成本和人力投入。同时降低部署和运 维难度，方便终端客户根据业务场景灵活选择相应产品，加速液冷式人工智能加速卡和服务器产品上市。 此外，通过统一的设计指导，在冷板本体、流体快插接头等关键组件上产生规模化效益，获取低成本液 冷解决方案，推动冷板式液冷技术的普及。

以AIGC为代表的人工智能大模型的发展，带来了算力需求的指数式提升。AI芯片需要通过提升工 作频率或增加运算单元来获得更强的算力，带来人工智能加速卡功耗的不断提升。当前人工智能加速卡 单卡功耗已达到350W至600W量J，带来服务器散热功耗的显著提升，在给服务器散热设计带来挑战的 同时，也给建设绿色数据中心带来了很大的挑战。液冷技术成为解决人工智能服务器G功耗散热问题、 降低数据中心PUE的关键，其中冷板式液冷技术是当前解决人工智能加速卡G功耗问题的主流方案。目 前标准PCIe接口形态的人工智能加速卡仍然是业界主流，国内外部分厂商已经推出了相应的冷板式人工 智能加速卡，但均是按照自身产品形态特征进行设计，未考虑同行业其他厂商情况，不能作为标准化设 计。

同时，虽然冷板式液冷散热技术在CPU、内存、扣板式人工智能加速卡上已经取得了成功应用，但 在标准PCIe接口形态的人工智能加速卡上的应用仍然很少，业界迫切需要一个针对标准PCIe接口形态人 工智能加速卡的液冷设计指导，来推动冷板式散热技术在人工智能加速卡应用的普及。

冷板式液冷加速卡由人工智能加速板卡、液冷板、加速卡外壳结构件组成。

冷板覆盖加速卡上的主芯片及其他发热元件（包括但不限于VR、显存等），提G板卡封装狭小空 间内人工智能芯片散热效率。加速卡对外提供一对流体快插接头（两个公头），用于连接服务器内部集 /分水结构或RCM。

冷板式人工智能加速卡能够有效避免局部热点，降低服务器系统风扇功耗，降低数据中心整体PUE， 是未来绿色数据中心发展的必然趋势。

附件：2024基于标准PCIe接口的人工智能加速卡液冷设计白皮书- 降低服务器和冷板式人工智能加速卡之间的适配难度