AI伺服器做为INS13ZD此基础电子设备,其市场需求可望受惠于AI黄金时代下对INS13ZD急速提高的市场需求而快速稳步增长。
在总体伺服器销售额中占比严重不足10%的AI伺服器虽然受AI大数学模型产业发展大潮增添的INS13ZD市场需求稳步增长及核心理念GPU部件断货等影响,市场需求高企助推销售额逆市稳步增长。
依照TrendForce统计数据,截止2022年,预计今年配备GPGPU的AI伺服器年销售额占总体伺服器占比近1%,而2023年估计在ChatBot有关应用应用领域护持下,冀望再次抑制AI有关应用领域备货,预计今年2023年AI伺服器销售额环比稳步增长将达至15.4%。#伺服器#

AI伺服器金融行业概要
从前,AI排序此基础建设主要就都采用的是X86伺服器。
但,随著AI演算法和晶片的产业发展,GPU、FPGA和ASIC晶片为核心理念排序模块的AI专供此基础建设激增,当中GPU伺服器最非主流。
相对通用型伺服器,AI伺服器是选用直链方式的伺服器,在直链方式上能依照应用应用领域的覆盖范围选用相同的女团方式,如CPU+GPU、CPU+TPU、CPU+其它的整合型等。
AI伺服器的CPU+GPU架构:

整合型数量: 通用型伺服器一般是单路或多路CPU架构,而AI伺服器需要承担大量的AI运算,一般配置四块及以上整合型。
AI伺服器虽然对整合型的独特市场需求,需要针对性的对系统结构、散热等做专门的设计,才能满足AI伺服器市场需求。
AI伺服器和通用型伺服器的区别:

目前按照GPU数量的不同,有4颗GPU(大潮NF5448A6)、8颗GPU(Nvidia A100 640GB)和16颗GPU(NVIDIA DGX-2)的AI伺服器。
依照芯语的数据,相比于高性能伺服器、通用型伺服器,AI伺服器的晶片组(CPU+GPU)价格和成本占比通常更高,如AI伺服器(训练)晶片组成本占比达83%、AI伺服器(推理)晶片组占比为50%。

AI伺服器分类方式有两种:
1)按应用应用领域场景:AI伺服器按照应用应用领域场景能分为深度学习训练型和智能应用应用领域推理型。训练任务对伺服器INS13ZD要求较高,需要训练型伺服器提供高密度INS13ZD支持,典型产品有中科曙光X785-G30和华为昇腾Atlas 800(型号9000、型号9010)。
推理任务则是利用训练后的数学模型提供服务,对INS13ZD无较高要求,典型产品有中科曙光X785-G40和华为昇腾Atlas 800(型号3000、型号3010)。
2)按晶片类型:AI伺服器为直链伺服器,能依照应用应用领域覆盖范围调整排序模块结构,可选用CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多种整合型等女团方式。目前,产品中最常见的是CPU+多块GPU的方式。

AI伺服器产业链
AI伺服器核心理念组件包括GPU(图形处理器)、DRAM(动态随机存取存储器)、SSD(固态硬盘)和RAID卡、CPU(中央处理器)、网卡、PCB、高速互联晶片(板内)和散热模组等。
AI伺服器核心理念组件包括GPU(图形处理器)、DRAM(动态随机存取存储器)、SSD(固态硬盘)和RAID卡、CPU(中央处理器)、网卡、PCB、高速互联晶片(板内)和散热模组等。

CPU主要就供货厂商为Intel、GPU目前领先厂商为国际巨头英伟达,和国内厂商如寒武纪、海光信息等。
内存主要就为三星、美光、海力士等厂商,国内包括兆易创新等。SSD厂商包括三星、美光、海力士等,和国内江波龙等厂商。
PCB厂商海外主要包括金像电子,国内包括沪电股份、鹏鼎控股、深南电路、兴森科技等。
主板厂商包括工业富联,伺服器品牌厂商包括大潮信息、紫光股份、中科曙光、中兴通讯等。

AI伺服器竞争格局
IDC发布了《2022年第四季度中国伺服器市场跟踪报告Prelim》。
从报告能看到,前两名大潮与新华三的变化较小,第三名为超聚变,从3.2%份额一跃而至10.1%,增幅远超其它伺服器厂商。

Top8伺服器厂商中,大潮、戴尔、联想均出现显著下滑,超聚变和中兴则取得明显稳步增长。当中,大潮份额从30.8%下降至28.1%;新华三份额从17.5%下降至17.2%;中兴通讯(000063)从3.1%提高至5.3%,位居国内第5。联想降幅最明显,从7.5%下降至4.9%。
据TrendForce集邦咨询统计数据,2022年AI伺服器采购占比以北美四大云端业者Google、AWS、Meta、Microsoft合计占66.2%为最,而中国近年来随著国产化力道加剧,AI建设大潮随之增温,以ByteDance的采购力道最显著,年采购占比达6.2%,其次紧接在后的则是Tencent、Alibaba与Baidu,分别约为2.3%、1.5%与1.5%。

依照TrendForce最新研究报告,除了经济稳步疲软及高通胀,促使北美四大云端服务供应商(CSP)下修今年伺服器采购量之外,包含Dell 与HPE 在内的Enterprises OEM 亦已开始调降ODM 的主板生产。
TrendForce认为2023 年全球伺服器销售额将下跌至1,443 万台,年成长率收敛为1.31%,而OEM 下修备货展望的举动,除了反应终端市场需求不如预期外,更多原因是受零部件库存调节与客户端控制财务支出等负面影响所致。
自2018年新兴应用应用领域题材的带领下,包含自动驾驶汽车、AIoT与边缘运算,诸多大型云端业者开始大量投入AI有关的电子设备建设,截止2022年为止,估计配备GPGPU(General Purpose GPU)的AI伺服器年销售额占总体伺服器占比近1%。

液冷伺服器:AI伺服器新趋势
目前产业发展的散热冷却技术主要就有风冷和液冷两大类,当中风冷包括自然风冷和强制风冷,适用的机柜功率密度较低。
液冷分为单相液冷和相变液冷。散热冷却系统所选用的冷却介质、冷却方式相同,移热速率差距大。
传统风冷最高可冷却30 kW/r的机柜,对30 kW/r以上功率密度的机柜无法做到产热与移热速率匹配,会使机柜温度急速升高导致INS13ZD下降甚至损害电子设备。
目前国内高密度的云数据中心和智算中心主要就以冷板式液冷为主,超算中心主要就以浸没式液冷为主。
依照赛迪顾问的数据,以液冷数据中心对传统市场进行替换做为市场规模测算此基础,结合华为、阿里巴巴和中科曙光对液冷数据中心的替换率调查,预计今年2025年我国液冷数据中心的市场规模将破1200亿元,2021-2025年均复合增速25%。

市场格局方面来看,国中科曙光、华为、大潮、联想和阿里等公司在数据中心液冷的商业化探索已经取得了一定成果。
据《中国液冷数据中心产业发展白皮书》,通过对液冷数据中心产品营收、市场占有率、技术专利等维度的综合评价,中科曙光、华为、阿里及联想为液冷数据中心的领导者,广东合一、大潮位于挑战者位置,戴尔、维谛、英维克等处于跟随者地位。
从温控电子设备供应市场来看,英维克、佳力图、申菱环境、依米康等为机房温控电子设备的主要就供应商,同飞股份、高澜股份等工业温控应用领域“玩家”可望凭借技术同源快速切入数据中心温控市场。
未来,考虑到对伺服器改变形态的大小和综合成本等,伺服器热力密度为15-20KW阶段,冷板式液冷对伺服器的形态变化相对较小、冷却液环节占比较低,环保等方面可望优先选用,随著INS13ZD密度的进一步增加,浸没式液冷总体散热能力可望进一步增强,推广度可望逐步打开。