免费人工智能计算服务器 百万次AI推理计算

若“一度电百万次AI推理计算”主张得以流行,一场新的降耗算力竞赛或将开启。

11月4日,2022云栖大会上,宁畅公司首席技术官赵雷介绍,依托“全系统定制液冷服务器方案”,宁畅可让1度电能实现上百万次的AI模型推理计算,让高能耗AI产业顺应“低碳”政策要求。

从公开报道来看,这是近年来,国内服务器厂商首次明确给出1度电可实现的AI推理计算能力数值。

免费人工智能计算服务器 百万次AI推理计算(1)

目前,以数据中心为代表的算力基础设施,正成为数字经济底座,但其高耗能、算力服务的公共属性等特征,则要求大型数据中心朝着集约、节能方向发展。

《关于加快构建全国一体化大数据中心协同创新体系的指导意见》、《“十四五”数字经济发展规划》等多项政策文件就提出,要加快实施“东数西算”工程,在能源丰富、气候适宜的地区布局大数据中心国家枢纽节点,加强绿色数据中心建设,并强化节能降耗。

来自政策与市场的需求,正推动绿色低碳电力与通用算力供给协同发展,形成“绿色算电一体”的新型资源体系。

而微观上,服务器厂商让每1度电实现更高的计算能力,提高单位电量的算力产出比,则是更直接的降耗技术体现。如果按此方向建立服务器降耗新门槛,对于绿色低碳算力目标的实现,将大有脾益。

免费人工智能计算服务器 百万次AI推理计算(2)

节能标准将不唯一

说起“1度电的计算力”,就不得不提另一项行业关注的节能指标“PUE”。PUE=数据中心总能耗/IT设备能耗,越接近1表明非IT设备耗能越少,即能效水平越好。

2021年12月国家发改委、国家能源局发布《贯彻落实碳达峰碳中和目标要求推动数据中心和5G等新型基础设施绿色高质量发展实施方案》明确提出,到2025年全国新建大型、超大型数据中心平均电能利用效率PUE降到1.3以下,国家枢纽节点进一步降到1.25以下。

在明确的政策指向下,降PUE成为数据中心重要节能目标。但唯“PUE”的节能标准,也引起行业内诸多探讨,如WUE(水利用效率指标)、CUE(碳利用效率指标)等新的绿色、降碳指标也不断被各大厂商提及。

但不论提高“1度电计的算力”还是降低PUE、CUE,其背后的重要支撑技术则统一指向“液冷”。

在数据中心行业,公认的节能路径是液冷技术,毕竟在芯片热封装壳温不断提升的当下,已经到了风冷散热的极限。在这种情况下比热容是空气1000到3500倍、导热性是空气15到25倍的液体就成为了散热首选。

赛迪顾问电子信息产业研究中心总经理杨梽永认为液冷数据中心有五点优势。第一,液冷技术的高效制冷可有效提升服务器的使用效率和稳定性。第二,应用液冷技术有助于实现数据中心节能、降噪。第三,应用液冷技术有助于提高数据中心单位空间的服务器密度,大幅提升数据中心的运算效率。第四,液体冷却服务器能够无视海拔和地域等环境影响。第五,液冷数据中心余热可以创造经济价值。

因此“液冷”成为各大IT厂商、行业的发力点。

“液冷”成决胜赛点

近来,液冷服务器、数据中心发展迅猛,杭州、成都、青岛等地纷纷实践液冷数据中心建设,阿里巴巴、浪潮、宁畅等企业则深耕液冷技术及市场。有分析机构预计,到2026年,液冷数据中心市场的初始估值从2018年的14.3亿美元增至1205亿美元,年化复合增长率达30.45%。

2022云栖大会上,宁畅公开的冷板液冷服务器方案数据来看,宁畅新款液冷服务器,仅1度电就可实现16870314次目标识别分类、435343次重量级目标分析。

免费人工智能计算服务器 百万次AI推理计算(3)

2022云栖大会宁畅赵雷分享报告现场

此外,宁畅液冷方案可让数据中心PUE值降至1.2,并满足服务器单芯片500W功耗的散热,让单机柜功率得到提升并节省部署空间80%,噪音低于50分贝。

以总负载10MW的机房为例,相比风冷模式,采用宁畅液冷方案年均节省电费1580万元,减少二氧化碳排放量22600吨,相当于植树2万亩。

如果宁畅“一度电百万次AI推理计算”的主张得以流行,很可能引发一场各厂商围绕液冷技术的绿色算力竞赛。

虽然胜负不好预测,但这对绿色算力时代的加速到来,则是一次非常有益的实践。

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页