当大算力遇到高能耗,液冷服务器大势所趋

2024-03-13 19:15:31     来源:

AI“大力出奇迹”,算力一路狂飙,电力作为算力发挥作用的基础设施,用电能耗也水涨船高。

日前,外媒报道称,ChatGPT每天响应大约2亿个请求,在此过程中消耗了超过50万千瓦时的电力,相比之下,美国普通家庭每天消耗29千瓦时的电力,即ChatGPT每天的用电量是美国家庭用电量的1.7万多倍。该报道直指AI“吃电”的隐忧:如果不断出现新的能源消耗方式,如何实现净零排放?

在绿色低碳转型发展背景下,以生成式AI为代表的大模型训练和推理产生的用能降耗问题日益突出,绿色算力的发展势在必行,液冷服务器作为算力“降耗”的重要方向,也正迎来发展东风。

算力汹涌,能耗狂飙

当前,各种AI大模型如火如荼,推动全球算力需求呈现爆炸式增长,伴随着算力需求的增长,全球电力、功耗方面的成本不断增加。据开源证券统计,AI算力下主流芯片功耗正不断增加,如Intel的多款CPU芯片的TDP已突破350W,NVIDIA的H100系列GPU芯片TDP更是达到700W,B100 TDP或将达到1000W左右。

数据中心作为算力中枢电力消耗情况更为直观:根据国际能源署(IEA)数据,算力正在成为用电大户,数据中心的用电量已占全球总用电量的1.5%至2%,大致相当于整个英国的用电量,到2030年,这一比例预计将上升至4%。美国Uptime Institute预测,到2025年,AI业务在全球数据中心用电量中的占比将从2%猛增到10%。

大模型大算力带来的高能耗背后,是高昂的碳排放代价。据AI 初创公司Hugging Face和卡内基梅隆大学研究,从文本大模型到多模态大模型,算力需求和推理任务逐级增多,碳排放量也相应越来越高,如使用Stable Diffusion XL生成1000张图像所产生的二氧化碳排放量相当于一辆燃油车行驶4.1英里的排放量,是1000次文本分类碳排放的近1500倍。在当前多模态大模型发展水平下,其推理所产生的碳排放量也将会成指数提升。

为了解决AI算力狂飙下的能耗问题,发展低碳、节能的绿色算力成为必然,数据中心向低碳化演进,液冷服务器也有望成为行业优选。目前在双碳战略目标下,我国要求大型数据中心的PUE(电能利用效率)降低到1.3 以下(该数值越接近于1,说明能源越接近全部都用于IT设备负载上)。

在此背景下,算力厂商竞相布局绿色算力。据了解,英伟达即将推出的B100 GPU将采用液冷散热技术,且宣称其未来所有GPU产品的散热技术都将转为液冷。开源证券表示,随着AI的高速发展,CPU+GPU的异构计算服务器由于散热需求强烈,也开始逐步采用液冷制冷方式,AIGC或将加速液冷数据中心的渗透率。

可见,算力液冷市场正迎来新机遇。根据IDC数据,2023年上半年中国液冷服务器的市场规模为6.6亿美元,同比增长高达283.3%,预计到2027年,中国液冷服务器的市场规模将达到89亿美元。东吴证券测算,2025年及以后存量服务器改造为冷板式液冷市场空间为832亿元;假设2027年新增AI服务器全部采用冷板式液冷,市场规模为260亿元。

液冷服务器行业壁垒较高,但行业参与者众多,行业竞争仍较为激烈。开源证券认为,液冷行业的竞争壁垒主要体现在“技术、客户认证、运维”等综合能力上。也即布局液冷服务器,且产品技术实力雄厚的厂商将值得关注。

步入液冷时代,联想集团“温水水冷”破局高能耗

目前在液冷市场,主流玩家包括IT厂商、设备商、互联网厂商等拥有技术实力的企业。联想集团作为最全的算力基础设施和服务提供商,在液冷服务器领域是佼佼者,发展水平也位居行业第一矩阵。

从技术层面来看,液冷技术涉及冷却、制冷、温度控制算法等多个技术领域,覆盖多学科,技术门槛较高。联想集团基于多年技术沉淀,在液冷方面首创了温水水冷技术,该技术综合材料学、微生物学、流体力学、传热学等多个基础学科,能够以最佳的能耗比和经济效用实现100%服务器部件用水冷却,热移除效率最高可达98%,PUE可降低到1.1以内。

从客户认可层面来看,具备高可靠性、安全性、稳定性的产品往往是客户认证壁垒的关键。联想集团在产品层面,旗下服务器产品均有三高一低(高性能、高扩展、高可靠、低能耗)的共同特点,可为客户锻造强劲的算力引擎,在液冷技术的应用方面,其温水水冷技术广泛部署于全球不同客户,足以见客户认可度。

以德国莱布尼茨数据中心来说,其借助联想温水水冷技术,实现了90%的热能回收,后者比普通风冷系统散热效率高4000倍,年平均PUE1.1,每年可节省超过2000万欧元,节省下来的能源可为4700个德国家庭供电一年。上海交通大学的“思源一号”高性能计算集群以联想“海神”温水水冷技术,系统PUE约在1.1,可节约42%左右的电力成本。

从运维实力来看,液冷服务器容错性较低,任何一个部件发生损坏或可需要维修更换,或将对系统整体产生影响,这需要相关厂商具有较强的运维能力。联想集团依托“臻算”服务,可为客户提供全生命周期的运维服务。

目前,联想集团的温水水冷技术已迭代至第五代,拥有国内外多项专利,去年底该技术还获得了联合国授予的“能效优化赛道冠军”大奖。联想集团的温水水冷已经广泛应用于科研机构、气象、生命科学、石化和制造等多个领域,已在全球多个国家部署了7万套。

在行业趋势和温水水冷技术加持下,联想集团算力业务以“AI赋智,绿色赋能”的战略,构建了坚实的竞争壁垒。在“AI赋智”方面,联想集团纵深布局AI服务器,并打造了“联想问天”和“联想ThinkSystem”双品牌AI服务器,“绿色赋能”方面,则全面布局液冷服务器产品,以夯实产品综合实力。

AI热潮下,大模型技术的升级迭代正催化算力液冷加速发展,叠加双碳目标的推进,各行业对绿色算力的需求日益增长,带动我国液冷服务器渗透率快速提升,以联想集团为代表的算力厂商有望受益与此迎来增长新动能。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

标签:

猜你喜欢

最高直降20000元,享超过3.5万元购车权益,开春购车就选TA!
百亿补贴巨额购车福利极限派送,错过这波真的悔一年!
推动电梯现代化改造,通力电梯助力城市更新
拒绝局促,一路轻松!3.8节传祺影豹为你花式打call
谁是最能打的画质王者?海信E5系列入局Mini LED市场
无套路直降2万,人生的第一台MPV就是TA了!
买得值更保值,10万带走传祺MPV榜一大哥
幸福大放价,10万不到就能把传祺M6 PRO开回家
Sora震撼AI界,传祺联手华为让汽车界沸腾
Sora让影视圈“颤抖”,“华为版”传祺M8又焦虑了谁?
传祺新能源百亿补贴来袭
买车也有百亿补贴!传祺新能源开春狂送购车权益!
立减9999元,还享2万置换礼,传祺新能源百亿红包等你领取!
新农人神车,购车还有百亿红包!
专属全新内饰、专属龙年徽标,传祺新能源E9贺岁版上市
焕新升级,价值顶满,百亿购车红包加码,传祺新能源E9贺岁版暖心上市!
颜值升级!传祺新能源E8披超强龙年新“铠甲”喜贺“龘”年!
贺岁版驾到!通通闪开!传祺新能源E8换新装,还有巨额红包等你来拿!
都退出了春节档了?不,现在买车还有3888元新春红包拿
贾玲活出滚烫人生、有人上春山,有人还在发红包
上春晚、贺岁版上市、派百亿红包!传祺新能源除夕好戏连连!
鸿星尔克跨界美妆主打“科技”牌
春节回家要面子还是里子?年轻人拒绝取舍就选影豹
昌硕故里安吉鄣吴镇携手新经济创造文化传承新可能
货拉拉司机旷师傅的人生新选择 奥铃智蓝超混轻卡让货运生活更轻松
上市即销冠!传祺新能源E8热销,问界M7竟也在射程内
小年夜大惊喜,这趟高铁专列免费送游子归家
有实力更有温度,“中国MPV专家”高质量开局2024
打造更优驾驶体验 提升行业用户价值 欧曼自动挡中卡助力增设自动挡卡车驾驶证类别
阿里云和蚂蚁数科合作开发的实人认证产品适配华为HarmonyOS NEXT