想了解大赛详情,请点击下方图片

👇👇


作者简介

本文是第二届电力电子科普征文大赛的获奖作品,来自上海科技大学的诸葛英健投稿。


2

AI还是个耗水狂魔


根据兰道尔原理,处理信息是有能量成本的。但这一部分只是AI耗电中的一小部分,更多的能量消耗来自焦耳定律


当芯片在进行信息处理时,其中的晶体管会在开关状态中进行切换,而这就产生了电流。又由于电路中电阻的存在,这些能量不可避免地转化成热能。目前台积电等芯片巨头已经在积极推进2nm工艺节点,在每平方毫米的面积上,植入3亿颗晶体管。即使单个晶体管产生的热量微乎其微,但在这么大的体量下,热量还是不容忽视的。以英伟达最新的B200芯片为例,其内含超过2080亿个晶体管,可想而知热量一定相当可观。


要进行散热,早些年利用空调冷却系统来降温,但这因为太费电而逐渐淘汰,转为利用


根据美国加州大学河滨分校的一项研究发现,ChatGPT等大模型的用水量令人吃惊。仅仅是训练GPT-3,15天就用掉了70万升水,更别说GPT-4等参数更多的大模型了。而在后续的使用中,据估计,每交流10-50个问题,就需要500ml水来降温。根据谷歌2024年环境报告,2023年谷歌总用水量为64亿加仑,同比增长了14%,其中数据中心用水用水量61亿加仑,同比增加17%[5]。61亿加仑,换算过来大约2379万立方米,足足可以装满一个半西湖。


除了运营维护过程中耗水,在生产芯片阶段,也需要消耗大量的水资源。制造芯片需要在晶圆上烧刻电路,而这一过程中需要大量的超纯水进行冲洗。据悉,制造8英寸晶圆每小时耗水250立方米,12英寸晶圆耗水则达到500立方米,也就是说,平均生产一个2克重的计算机芯片,就需要32公斤的水资源。根据报道,台积电2nm晶圆代工厂每日用水量预计约为4.3万吨


根据预测,到2027年,全球人工智能需求可能会产生42-66亿立方米的取水量,这相当于丹麦每年取水总量的4-6倍。


耗水问题也制约着人工智能的飞速发展。尽管业界已经采取了许多措施来应对这些挑战,包括提高水资源利用率、推广水资源循环利用技术、加强废水处理、利用再生水等。另一方面,利用天然冷水资源为数据中心降温,例如阿里云千岛湖数据中心、微软北方群岛数据中心等,但这依然面临着严峻的挑战。


图6. 数据中心机房


3

能耗优化新动态


在解决AI能耗的问题上,业内已经使出了浑身解数。


第一个办法就是开源


利用风能、光伏等可再生能源,以及核能,作为数据中心的运行能量。早在2021年,OpenAI CEO Sam Altman就投资了核聚变初创公司Helion Energy。2023年,亚马逊总购电量8.8GW,其中超60%的交易为购买光伏发电,其余为购买风电。亚马逊表示,其目前90%的电力都来自可再生能源,并在2025年将比例提升至100%。而开源这一办法与我国之前提出的“东数西算”工程相契合,引导数据中心向西部资源丰富地区聚集。


图7. 东数西算八大枢纽 | @ 国际科技创新中心


第二个办法就是节流


节流一方面要从AI本身去降低能耗。剪枝(pruning)、量化(quantization)、蒸馏(distillation)等技术有望带来更好的算法,让 AI 模型更快、更节能。通过优化大模型架构,优化模型参数,从而降低训练及使用的能耗。例如,微软在4月发布的Phi-3小语言模型,其中Phi-3 small仅仅使用70亿个参数,在性能表现上就优于GPT3.5-T等大模型。在硬件层面,通过设计更加高效的芯片,例如AI模型训练专用芯片、专用推理芯片等,可以大大提升效率以及降低能耗。例如,英伟达最新集成了Blackwell芯片的GB200 NVL72,相较之前提出的Hopper,推理能力提升了30倍,训练能力提升4倍,能源使用效率提升25倍。


图8. GB200 NVL72 | @ NVIDIA


节流的另一方面就是降低冷却能耗能量回收。华为芜湖数据中心利用直通风、液冷和云软件智能调节,将液冷机房年均PUE降至1.1,远高于行业水平,每100万台服务器每年可节省约10亿度电。除了利用自然冷却、液冷等技术降低数据中心能耗以外,利用余热回收技术进行跨季节储热,可以在供暖期间将储存的热量供给需求侧,如腾讯天津数据中心、阿里巴巴千岛湖数据中心、Facebook丹麦数据中心等。


除此以外,政策层面也需要一定程度的监管。截至2023年,美国AI相关的监管机构已经增加到了21个,并颁布了相关法规[5]。2024年3月,欧盟通过了世界上第一个全面的人工智能法律框架——《人工智能法案》。法案要求AI企业进行一定的信息披露,并致力于更高效、可持续的大模型开发。2023年4月11日,国家网信办发布了《生成式人工智能服务管理办法(征求意见稿)》,对生成式人工智能发展和规范应用提出了一系列要求。除此以外,北京及内蒙古等地都发布文件,限制数据中心冷却使用地下水、引导利用再生水等。


4

结语


人工智能正在引领一场科技革命,带给世界深远影响和巨大潜力。而人工智能的飞速发展,我们也面临着前所未有的挑战。在人工智能重塑世界的同时,我们也应该关注能源领域的进展,也许聚变的科技点就在AI之后。


参考资料

[1] “Electricity 2024 – Analysis and forecast to 2026”. International Energy Agency, Jan. 2024.


[2] Luccioni, Alexandra Sasha, Sylvain Viguier, and Anne-Laure Ligozat. "Estimating the carbon footprint of bloom, a 176b parameter language model." Journal of Machine Learning Research 24.253 (2023): 1-15.


[3] de Vries, Alex. "The growing energy footprint of artificial intelligence." Joule 7.10 (2023): 2191-2194.


[4] “Google Environmental Report 2024”, Google, Jul. 2024.


[5] “The AI Index 2024 Annual Report,” AI Index Steering Committee, Institute for Human-Centered AI, Stanford University, Stanford, CA, April 2024.


系列文章

AI的尽头是能源?(1)


更多精彩内容



《多相电机的奇妙世界(3):多相电机的应用场景》

《多相电机的奇妙世界(2):三相电机vs多相电机》

《多相电机的奇妙世界(1):从三相到多相的跨越》

《探索吉他音色与效果器的奇妙世界(3)-时延和哇音效果器》

《探索吉他音色与效果器的奇妙世界(2)-失真类效果器》

《探索吉他音色与效果器的奇妙世界(1)- 缺陷创造的美》

《一枚叶片的独白》

《电力电子中的“摩尔定律”(2)》

《电力电子中的“摩尔定律”(1)》

《机器人和自动化的未来(2)》

《机器人和自动化的未来(1)》



中国电源学会第三届

电力电子科普作品创作大赛

现已开启征稿,

扫描下方二维码,即可报名!

👇👇



欢迎点击卡片

关注电子电力工程师园地