您好,欢迎访问JDB电子·(中国)官方网站!
行业新闻
联系我们
JDB电子·(中国)官方网站
邮箱:admin@qtq58.com
电话:19523250995
地址:JDB电子黑龙江省哈尔滨市香坊区向阳镇科技园区
当前位置: JDB电子 > 新闻动态 > 行业新闻

行业新闻

jdb电子上山下海的数据中间背得动AI能耗的锅吗?
发布时间:2024-05-05 12:13:57浏览次数:

  能源焦炙仿佛是一个永久的话题,从蒸汽机到内燃机,从煤炭到石油,天下的开展老是环绕着能源打转,到了AI时期,这一点也不曾改动。

  OpenAI CEO Sam Altman在多个场所提到,将来的野生智能需求能源方面的打破,由于AI耗损的电力将远远超越人们的预期。马斯克也曾预言,将来两年内将由“缺硅”变成“缺电”。

  数据显现,ChatGPT天天要呼应约莫2亿个恳求,这个历程会耗损超越50万度电力。估计到2027年,全部野生智能行业每一年将耗损85至134太瓦时(1太瓦时=10亿千瓦时)的电力,约即是北京市2023年整年的耗电总量(135.78太瓦时)。

  宏大的能源耗损次要发生在两个方面,其一是驱动AI效劳器计较、存储耗损的能源,其二则是为AI效劳器降温耗损的能源,这里眼前者占60%,后者占40%。

  不外,固然前者占比更高,但因为AI的开展对算力的需求愈来愈大,以是即使AI芯片的能效不断在进步,但仍是没法改动团体功耗连续上涨的趋向。因而,怎样低落效劳器冷却时耗损的能源,就成了低落AI运营本钱、削减能源耗损的枢纽。

  而为此,大到Google、微软如许的科技巨子,小到效劳器研发供给商,尖端前沿如SpaceX也都在为此挖空心思。

  1945年,天下上第一台通用计较机ENIAC降生。为理解决ENIAC耗电量宏大且发烧高的成绩,其时的工程师就接纳了电扇来为ENIAC降温,这差未几是最早的效劳器制冷手艺。

  但电扇制冷的结果究竟结果有限,而其时的计较机又都是大块头,且耗电量宏大。好比ENIAC重量约莫在30吨阁下,占空中积170平方米,功耗到达每小时150~174千瓦。

  面临如许的庞然大物jdb电子,仅靠电扇的制冷就有些力有未逮了。以是到1951年jdb电子试玩平台,当美国雷明顿兰德公司推出第一款商用计较机UNIVAC I时,就曾经用上了空调制冷。

  空调最早创造在1902年,最后是为了给印刷厂连结恒温,厥后连续走入家庭,约莫1920年的时分就曾经在美国被普遍利用了。以是在1951年UNIVAC I面世时,空调体系曾经非常成熟,其时雷明顿兰德公司就特地为UNIVAC I设想了一套中心空调制冷体系。

  今后以后,空调制冷就逐步成为大型计较机,和厥后的效劳器机房最次要的制冷方法,并连续了快要一百年的工夫,直到厥后液冷手艺登上舞台。

  和空调制冷一样,液冷手艺最早也不是使用在效劳器场景的,而是使用在机器加工、电力变压器,大概航空航天等范畴。其在效劳器范畴的使用,也不外是近来二十多年的工作。

  这是由于环球互联网的海潮不断到1994年前后才呈现第一次发作。从这以后,互联网公司为了供给高效的效劳,大范围存储数据,才开端大范围建立和利用数据中间。

  也因而,因为大批计较需求带来的芯片功耗进步,效劳器密度增长等缘故原由,传统的空调制冷装备就显得有些力有不逮,并开端限定芯片机能的进步。

  苹果、惠普和戴尔供给商Liteon的副总裁Simon Ong暗示:“我们发明接纳风冷方法的芯片只能到达其机能的60%,而且会存在必然的过热成绩,而液冷处理计划能够持续将计较机能提拔至最优化。”

  3月1日,在斯坦福大学举办的2024年SIEPR经济峰会上,黄仁勋暗示,英伟达的下一代DGX AI效劳器将接纳液冷手艺。

  按照艾邦储能网统计,单个DGX H100体系耗损的功率约莫为10kW,液冷可进步团体能效20-40%,1万个DGX体系能节流20-40兆瓦的功耗,按0.10美圆/千瓦时计较,相称于每一年节省2000-4000万美圆能源本钱。

  液冷除有更高的散热服从和更低的能耗程度,与风冷比拟,它还能削减效劳器的占空中积,即一样巨细的机房,可以放下更多的效劳器。各种劣势让液冷手艺逐渐替换风冷,成为数据中间的次要冷却方法。

  2006年,谷歌前CEO埃里克·施密特在搜刮引擎大会(SES San Jose 2006)上初次提出“云计较”(Cloud Computing)的观点,同时谷歌的数据中间也开端快速增加。

  2009年,华尔街日报报导了谷歌开端探究液冷手艺在数据中间的使用,以到达进步数据中间能源操纵服从的目标。其时谷歌就暗示液冷手艺能够将数据中间的能耗低落40%。

  也是这一年,惠普推出了一款名为ProLiant DL380 Gen8效劳器,接纳全新的液冷手艺,能够将功耗低落40%。两年以后,IBM也推出了一款利用液冷手艺的效劳器,名为System x3550 M5,能够将功耗低落45%。

  尔后,微软、亚马逊、Facebook(现Meta)也开端纷繁跟进,并前后在2019年~2022年阁下,将一切的数据中间的制冷方法都转换成液冷形式。

  固然,液冷手艺也分为许多种别,根据冷却液进入电子装备的方法差别,大抵可分为芯片级液冷,淹没式液冷、喷淋式液冷、冷板式液冷等等。

  好比芯片级液冷,就是将冷却液间接运送到芯片顶部,以吸取芯片发生的热量。这类情势降温完全,但构造庞大、本钱较高。淹没式液冷则是将全部电子装备浸泡在冷却液中,这类情势冷却平均,但体积宏大,保护未便。

  喷淋式液冷是将冷却液喷洒在电子装备上,固然冷却结果差一些,但胜在构造简朴,本钱较低。冷板式液冷则是经由过程由铜管、铝板等高导热质料制成的冷板来降温,事情道理有些相似北方的暖气片,不同只是一个增温,一个降温。

  今朝,市情上利用最普遍的就是冷板式液冷。根据Gartner的数据,2023年环球数据中间液冷市场中,冷板式液冷手艺的市场份额约为60%。

  但近来两年,喷淋式液冷和淹没式液冷的市场份额也有所增长。Gartner的数据提到,2024年环球数据中间液冷市场中,喷淋式液冷手艺和淹没式液冷手艺的市场份额将别离到达约25%和约15%。

  喷淋式液冷市场份额的增长,次要是由于它构造简朴,也更容易于装置和保护,是一切液冷手艺中本钱最低的一项。

  遐想在其2023年公布的《喷淋式液冷效劳器》中提到,“喷淋式液冷手艺具有优良的扩大性和灵敏性,能够满意差别范例数据中间的需求。”这契合今朝数字化转型过程当中,愈来愈多企业建立私有云和本人的小数据中间的需求。

  由于跟着野生智能,出格是大模子的开展,市场对数据中间的能源服从和效劳器机能有了更高的请求,而近来两年,因为手艺的成熟也招致沉醉式液冷的本钱逐步降落,进入更多企业可承受的范畴。

  固然液冷手艺对低落数据中间的能耗起到了宏大的感化,但关于高速增加的算力和其带来的宏大能耗来讲,仅靠传统的液冷方法还远远不敷。

  谷歌在其官网宣布,2021年,谷歌数据中间均匀天天耗损约45万加仑水。这约莫相称于浇灌17英亩草坪一次的水量,大概栽种用于消费160条牛崽裤的棉花的水量。

  同年,谷歌环球数据中间机队耗损了约43亿加仑的水,相称于美国西南部每一年浇灌和保护29个高尔夫球场合需的水量。

  除此以外,跟着环球ESG的理念愈来愈成为评判企业的主要尺度,减碳以至无碳成了数据中间运转的主要尺度。

  为理解决这些成绩,谷歌从很早就开端脑洞大开。2009年,谷歌在芬兰从一家造纸公司手里买下了一家造纸厂,开端动手将其改形成数据中间。

  挑选芬兰,一个缘故原由是纬度高,天然情况温度低;另外一个缘故原由是这家造纸厂位于芬兰南部海岸,谷歌筹算指导海水来为数据中间降温。

  今朝,这个项目标一期工程曾经在2011年9月竣工,谷歌早期投入了2亿欧元,但到今朝为止,总投入已超越20亿欧元。谷歌的目的是在2030年从前让所无数据中间和园区全天候完整接纳无碳能源来运停业务。

  一样挑选借助天然情况降温的另有Facebook,其2011年颁布发表在瑞典北部的一座名叫吕勒奥的都会建立数据中间。

  挑选这个处所的缘故原由,其一是由于这是一座产业都会,电价自制。其二则是由于这里纬度高。吕勒奥间隔北极圈唯一110千米阁下,每一年十月份就开端飘雪,夏季均匀气温约莫在零下6°C至零下13.6°C,即便在炎天,均匀温度也只要12°C - 20°C。

  这个项目在2011年开端建立,宏大的风机将内部冷氛围引入机房内,为不计其数台效劳器物理降温。根据扎克伯格的说法,他们吕勒奥数据中间的事情服从比传统数据中间高10%,能耗却低40%。

  与谷歌和Facebook在空中上想法子差别,艺高人胆小的微软则间接挑选将数据中间扔进了海里。

  微软以为,天下上一半以上的生齿寓居在距海岸约120英里的范畴内。将数据中间安排在内地都会四周的水域中,数据能够短间隔传输到内地社区。

  2015年,微软一个名叫Natick的项目正式启动;2018年,该项目团队经由过程一个压力容器,将装有864台效劳器的12个效劳器机架沉入苏格兰海岸四周的海床。两年以后,他们将这个宏大圆柱体捞出,考证了项目标胜利。

  2022年12月,海南海底数据中间胜利将装有近300台效劳器的“海底数据舱”放入海底并开端向外输出数据,成为环球首个贸易用的海底数据中间。

  该项目总司理蒲定在承受举世时报的采访时提到,“以陆地1万个机柜为例,划一算力的海底数据中间,每一年能节流用电总量1.75亿千瓦时、节流建立用空中积9.84万平方米、节流淡水15万吨。”

  好比2017年,富士康的数据中间就落户在贵安新区的岩穴里。设想职员将山底部的中间买通构成地道,让氛围对流,使山体内部温度低于内部的天然前提,成为机房效劳器的自然 “空调房”。

  2021年,我国提出“东数西算”计谋,贵州也因而成为我国西部最主要的数据中间之一。包罗苹果、华为等浩瀚头部企业都在贵州的大山里成立了本人的数据中间。

  假如说,谷歌、Meta等出名至公司之间的AI合作,是人和人之间的手艺比赛,那末,AI对提拔能源服从的火急,素质上是对人与天然资本之间干系停止从头解构。

  能量是守恒的,人类在获得一种更先辈的消费力、试图有限扩展它的才能上限的同时,也必需去考虑能够支出的价格能否超越了本人的极限,以寻觅最优解来更科学地设置资本。

  Open AI扑灭了新一代AI争取赛,将AI“吃电”量推向新的顶峰,本来“看不见”的能源之战,也被摆在了明面。

  固然各家公司“上山下海”地追求处理之道,但也能够面对一些争媾和手艺应战,好比效劳器安排在深海能够会影响陆地生态,而偏僻地域的数据中间能够会触及庞大的物流和保护成绩。

  凡事皆有价格,当资本稀缺的时分,也是磨练人类聪慧的时分,大概,新的能源处理计划就在火线,只要人类开启“火急”的阀门,才会更近间隔地获得新的计划。