栏目分类
发布日期:2024-12-12 05:45 点击次数:74
作家 | 程茜
裁剪 | 漠影2024年,千行百业对AI推理的需求将呈现出爆发式增长,行业对算力的需求远远特殊以往。在这么的场面下,何如打破能耗瓶颈,进而得到更迷漫的算力,如故成为每个企业眉睫之内且亟待科罚的关节问题。
然而,刻下的执行情况是灵验算力供给已无法中意算力需求:一方面,从储备到应用的算力需求齐愈发茂盛,OpenAI CEO召集寰球投资者组建定约为大模子构建基础顺序,马斯克的无东说念主驾驶出租车Cybercab为科技行业描述了将来感完全的面面,还有性能愈发浩大的GPT-o1等模子洪水横流。
另一方面,数据中心的算力潜能尚未被完全挖掘出来。数据中心常被以为是“耗电怪兽”,因为工作器运行伴跟着热量开释,温度一朝跳跃极限值,工作器性能就会显耀镌汰,限度数据中默算力施展。于是各种创新技巧表示,试图让数据中心再次打破能效瓶颈,开释出被敛迹的算力潜能。
这背后的关节变量即是冷却技巧,液冷技巧行为推手匡助数据中心一次次打破制约。就在联思集团Tech World上,联思集团董事长兼CEO杨元庆与NVIDIA首创东说念主兼CEO黄仁勋,这两大寰球科技行业顶尖企业的领军者同台,筹商发布全新液冷AI工作器,勇闯“最大工业翻新”。
今天,跟随2024/2025财年Q2财报,联思集团发布《Game of AI》系列常识科普视频的第二集《数据中心:何如与寰球交换算力》。
视频延续桌面电影神志,通过《权利的游戏》作风的开场片头,复刻北境冰雪风物变化,打造亦真亦幻的三维沙盘动画,以此紧扣液冷干线。
同期,视频还以两条科技树痕迹,先容了数据中心和能效的角逐演进历程,遴荐冰皑皑为主的配色有野心与模拟芯片的三维结构,融入液冷主题。
视频中以第一东说念主称桌面电影的创生手法,让不雅众随从存在于2100年将来时空,以科技历史学家李约瑟为原型的智能体,并通过它的主不雅视角张开了一场算力史与能源技巧史的探究,何如通过筹议重构寰球,以致极中的可赓续发展旅途,发现液冷技巧在开释数据中默算力中的关节作用。
一、培育能效、保管功耗,数据中心服从翻新正其时
联思集团最新发布的第六代Neptune海神液冷科罚有野心,不错为生成式AI高效筹议提供能源。这在当下关于数据中默算力服从培育的困难性显而易见。
通过视频中联思集团梳理的数据中心百年发展历史,咱们发现,数据中心的算力与能效密切联系,二者共同掌合手着能量密码。
东说念主类对算力的应用由来已久,但跟着信息技巧翻新到来,算力的性能和限度迎来爆发,算力需求缓缓多元化,长远汽车、大模子等各式应用场景。
2024年,算力培育的关节如故从狂堆硬件转向培育服从,如今数据中心需要的翻新是基建服从的角力。方向是在充分应用数据中心已有硬件设备的基础上,使其施展出更高能耗并提供更浩大的算力。视频以桌面电影第一视角,通过网页、文献等各类化载体索求信息,给不雅众带来更多操控互动感受。
在明确数据中心服从这一成见的同期,需要先搞明晰一个目的——TDP热遐想功耗。这指的即是当芯片达到最大负荷时热量开释的目的,亦然冷却系统要濒临的要紧挑战。
一朝跳跃这一极限值,处理器的温度连接升高,就会导致数据中心的性能镌汰,让芯片施展筹议智商的前提即是,处理器运行经由中产生的热量和冷却技巧的散热智商达到均衡。
因此培育基建能效,将其从能耗制约下挽救出来的关节即是冷却技巧。二者互相制约又互联系联,共同决定了数据中心的褂讪运行和能源应用服从。
数据中心和能效两条技巧路子交汇前进的同期,一步步助推AI产业的技巧创新与应用落地加快竣事,加快智能时间到来。
二、冷却技巧:算力历史长河中的关节眉目
算力用具从仅凭大脑运算到机械筹议机、电子筹议机,形态几经变迁,如故从数据中心的无穷延迟升沉到基建服从的角力上。
联思集团以桌面电影的神志,让咱们切躯壳验了筹议的百年历史。视频中通过更契合冷却与算力主题模拟芯片三维结构,展现出数据中心变迁的关节法子。动身点图灵机表面出现,奠定筹议的遐想理念,由虚构机器替代东说念主类进行数学运算。再到1946年运算速率达到了手工筹议20万倍的ENIAC出现,1951年第一台商用筹议机UNIVAC I初次领有存储智商,为当代筹议机的体捆绑构奠定了基础。
再到后头,20世纪60年代分时操作系统使得筹议动手通用,筹议机的处理器占用被切分,不错让多东说念主同期使用筹议机。
筹议性能的大幅培育,随之而来的即是散热系统的责任负荷急剧加多。视频以水上、水下冉冉揭示数据中心明线与能效暗线,通过水中浮起等细节动画,让东说念主千里浸其中。
早期风冷技巧是数据中心散热的主要形式之一,20世纪90年代出现的机架式工作器即是数据中心的开动形态,但因为空间紧凑、设备密度较高,风冷无法再中意散热需求。
机械冷却登上历史舞台,空调通过压缩机、冷凝器、挥发器等中枢部件的协同责任,产生低温凉风带走热量。从而使冷却技巧在互联网初次延迟,第一次挽救了算力。
冷却技巧挽救算力的第二大节点,即是高性能筹议集群的出现。高性能筹议集群将单机柜功耗直线拉升百倍,达到50kW,冷却技巧再遇瓶颈,空调无法中意如斯快速、高效散热的需求。
其中的象征性事件即是联思集团2012年推出的海神Neptune温水水冷技巧。其率先建议了适用于高密度筹议环境的温水水冷技巧,使用45℃~50℃的温水在冷却板和轮回水路中轮回,达到降温的服从。视频通过对温水水冷工作器进行初次全地方拆解,勾搭图表、动画,长远浅出展现了温水水冷技巧。
该技巧通过全水冷无电扇遐想,使工作器散热服从达98%,并竣事90%的余热回收再应用,镌汰42%的能耗,数据中心PUE可降至1.1,同期其总体资本低于风冷。
这之后,液冷技巧全面爆发,成为高性能筹议的主流取舍。
液冷技巧的发展为数据中心能效培育,开辟了一条行之灵验的路子,并为大模子时间的算力注入了新的能源。
三、液冷——AI时间开释汹涌算力的 “能源泉源”AI时间下半场,百模大战落下帷幕,GPU、CPU、TPU、工作器演化出千百种形态,AI武备竞赛的焦点,正从模子向数据中心升沉。
AI考验和推理的算力需求激增,对数据中心的需求水长船高。一张GPU的功率飙升至1000W,单机柜功率密度增至100kW。
随之而来的即是对冷却系统的又一次严峻考验。这是因为在高功率密度的环境下,设备单元体积内产生的热量会大幅加多,就需要散热系统的责任服从更高,能力快速带走热量保证设备赓续运转。
联思集团2024 Tech World大会上发布的全新液冷AI工作器,搭载第六代海神液冷系统,具备打破性的垂直液冷遐想有野心。视频通过三维动画径直对该系统进行了拆解,更为径直的呈现了其里面构造。
凭借ThinkSystem N1380 Neptune和新的ThinkSystem SC777 V4 Neptune,联思集团率先在不需要专用数据中心空调的情况下就不错运行100kW以上的工作器机架,这一设备即是专为大模子而打造。
在优化部署方面,液冷工作器可竖直甩掉,能在培育空间应用服从的同期,进一步增强散热服从,这在此前的液冷系统中并未几见。
其还遴荐小巧封装遐想,包含8个托盘槽、4个15kW功率调节站以及Neptune水流分家数统。
基于这么的优化遐想,第六代海神技巧使得数据中心的PUE趋近于1.0的极限,这也意味着悉数这个词数据中心设备对能源的应用率接近100%。
视频画面穿越数据中心的工作器,看到了海神液冷系统为科罚数据中心能耗问题带来的但愿。
但这并不是液冷技巧的终场战局。如今,算力需求滂沱上前,联思集团通过颠覆机柜、机房固有情势,用全面液冷的超大型AI集群科罚有野心——液冷集群微模块,为AI产业的打破装载了鼓动器。
视频中通过传神写实作风的工作器形态切换三维动画,再辅以鼠标手动操作形式,让不雅众直不雅感受了从工作器模块到机柜再到液冷微模块的重构经由。
液冷集群微模块的出现,成为数据中心的最优解之一,液冷技巧第三次开释了数据中心的算力能耗限度。
从高性能筹议时间,到AI时间的下半场,联思集团赓续引颈液冷科罚有野心遐想,加快算力的开释。液冷技巧的翻新日益受到平常而密切的注重,并对数据中心产业链、供应链产生翻新性影响。
结语:液冷成可赓续算力保险,AI加快向实
算力如故成为东说念主工智能投入果然的产业环境中弗成或缺的中枢成分,液冷技巧更高效地带走高温,使算力可赓续,让数据中心连绵束缚与寰球交换算力。
黄仁勋在与杨元庆对话时提到:“目下,咱们正在昔日所未有的限度重塑筹议边界的悉数这个词架构。目下,速率即是可赓续性,速率即是发达力,速率即是能源应用率。”
如今,AI重塑悉数这个词寰球运行逻辑,算力恰是其坚实的底座。正如联思集团打造的视频拒绝所说,“工作器与数据中心行为千行百业的基础顺序开拓,将再行界说AI行为分娩力的能量泉源,并以寰球之力再造寰球”。
下一篇:七腾机器东谈主亮相高交会、中博会