特定于应用程序的加速计算节点可提高效率
随着越来越多的设备成为包含具有互联网连接功能的嵌入式处理器和摄像头的“智能设备”,数据创建持续呈指数级增长。人工智能 (AI) 和高性能计算 (HPC) 正在改变计算格局,使海量数据宝库能够得到分析,从而实现更高质量的分析、自动化服务、增强的安全性以及更多用途。挑战:这些高级计算的规模需要越来越多的能源消耗。
作为创造高性能处理器来满足世界上最苛刻的分析需求的领导者,AMD 在我们的产品开发中优先考虑能源效率。为此,我们从整体上进行跨架构、封装、连接和软件的功耗优化设计。我们对能源效率的关注旨在降低成本、保护自然乌拉尔资源,并减轻气候影响。
AMD 优先考虑能源效率并不是什么新鲜事。事实上,我们在 2014 年自愿为自己设定了一个目标,即到 2020 年将移动处理器的典型使用能效提高到 25 倍。我们实现了这一目标,并超越了这一目标,实现了 31.7 倍的改进。
去年,我们宣布了一个新愿景 - 30×25 目标 - 到 2025 年,我们的加速数据中心计算节点的能效比 2020 年基准提高 30 倍。这些节点采用 AMD EPYC™ CPU 和 AMD Instinct™ 加速器构建,专为满足全球 AI 训练和 HPC 应用中增长最快的计算需求而设计。这些应用对于气候预测、基因组学和药物发现方面的科学研究以及训练用于语音识别、语言翻译和专家推荐系统的人工智能神经网络至关重要。这些应用程序的计算需求呈指数级增长。为了幸运的是,我们相信通过架构创新可以优化加速计算节点的这些和其他应用的能源使用。
AMD 与我们的行业一起了解提高数据中心效率的机会,以帮助减少温室气体排放并提高环境可持续性。例如,如果全球所有人工智能和 HPC 服务器节点都能获得类似的收益,我们预计,相对于基准行业趋势,从 2021 年到 2025 年,可节省高达 510 亿千瓦时 (kWh) 的电力,相当于节省 6.2 亿美元的电力,以及 10 年来种植 6 亿棵树苗的碳效益。ii
实际上,实现 30 倍目标意味着到 2025 年,这些 AMD 加速计算节点完成单次计算所需的功耗将比 2020 年降低 97%。要实现这一目标并不容易。要实现这一目标意味着我们需要提高加速发展的能源效率计算节点的速度比 2015-2020 年期间全行业总体改进速度快 2.5 倍以上。iii
一年进展更新
那么我们做得怎么样?到 2022 年接近中期,我们有望实现 30×25,使用由一个第三代 AMD EPYC CPU 和四个 AMD Instinct MI250x GPU 驱动的加速计算节点,能效比 2020 年基准提高了 6.79 倍。我们的进度报告采用了由著名计算能效研究人员兼作者 Jonathan Koomey 博士验证的测量方法论。
2022 年 30×25 能源效率目标更新。 AMD 的实际成果有望实现 30 倍的目标,远高于 2015-2020 年行业改进趋势。
一切照旧的“基线行业趋势”按照 2015-2020 年数据中观察到的相同历史趋势来估计 2020-2025 年全球能源使用情况。 AMD 目标趋势线显示全球能源使用情况AMD 30×25 目标所代表的效率提升以及更低能耗的理想结果。 AMD 实际趋势线显示了基于迄今为止报告的 AMD 计算节点能效提升的全球能源使用情况。
全球运行 AI 训练和 HPC 工作负载的数据中心计算节点的能源使用预测比较。来源:AMD 内部数据
虽然要实现我们的 30×25 目标还有很多工作要做,但我对我们工程师的工作感到高兴,并对迄今为止的结果感到鼓舞。我邀请您与我们联系,我们将继续每年报告进展情况。
##
基于全球所有 AI 和 HPC 服务器节点的 i 场景,与 AMD 30 倍的目标取得了类似的成果,相对于 2020 年基线趋势,从 2021 年到 2025 年累计节省了高达 514 亿千瓦时的电力。假设每千瓦时 0.12 美分 x 514 亿千瓦时 = 620 万美元。公吨 CO2e 排放量以及等效估算值对于植树,基于 2021 年 12 月 1 日将节电量输入美国 EPA 温室气体当量计算器。 https://www.epa.gov/energy/greenhouse-gas-equivalcies-calculator
ii基于 2015-2020 年能源效率提升和 2025 年数据中心能源消耗的行业趋势。
iii计算包括 1) Koomey Analytics 根据现有研究和数据进行的 2025 年基本情况千瓦时使用预测,其中包括特定细分市场的预计 2025 年部署量和数据中心电源利用率 (PUE)(包括 GPU HPC 和机器学习 (ML) 安装),以及 2) AMD CPU 插槽和 GPU 节点功耗,结合特定细分市场的利用率(活动与空闲)百分比并乘以 PUE,以确定用于计算性能的实际总能源使用量每瓦特。
6.79x =(基本情况 HPC 节点 kWhr 使用预测 2025 年 x AMD 2022 使用 DGEMM 和典型能耗的性能/瓦特改进+ 2025 年基本案例 ML 节点 kWhr 使用预测 *使用 ML 数学和典型能耗的 AMD 2022 年性能/瓦特改进)/(2020 年性能/瓦特 * 基本案例预计 2025 年 kWhr 使用量)。有关目标和方法的更多信息,请访问 https://www.amd.com/en/corporate-responsibility/data-center-sustainability
iv 包括 AMD 高性能 CPU 和 GPU 加速器,用于 4 加速器、CPU 托管配置中的 AI 训练和高性能计算。目标计算基于标准性能指标(HPC:具有 4k 矩阵大小的 Linpack DGEMM 内核 FLOPS。AI 训练:以较低精度训练为重点的浮点数学 GEMM 内核,例如在 4k 矩阵上运行的 FP16 或 BF16 FLOPS)测量的性能分数,除以代表性加速计算节点(包括 CPU 主机 + 内存和 4 个 GPU 加速器)的额定功耗。
AMD 纳斯达克股票代码:AMD
发表评论 文明上网理性发言,请遵守国家相关法律
评论列表