阿里巴巴达摩院解释为何我们需要绿色人工智能

人工智能 (AI) 有能力改变世界，只要它在此过程中不烧毁地球。

耗能的人工智能模型正在与做出可持续发展承诺的政府和企业发生冲突。

各种形状和大小的人工智能模型——从电子邮件垃圾邮件过滤器到自动驾驶汽车——通过接触大量数据进行学习，这些数据经过几轮调整后反复呈现，以提高其准确性。 

十年前，算法是在个人计算机上训练的。如今，这需要大量的专业计算硬件。这个过程中消耗的能量，尤其是人工智能语言模型，随着该领域技术的进步而不断膨胀。

根据 Open AI 研究实验室的数据，2012 年至 2018 年间，深度学习中使用的计算能力增长了 300,000 倍。

可以肯定的是，这些模型的规模也在不断增长，现在可以包含数万亿个参数，这些参数是可配置的随着模型学习而修改的离子变量。但这值得吗？

根据马萨诸塞大学阿默斯特分校的科学家计算，训练一个大型 AI 模型产生的碳排放量相当于 315 人（或整架 747 架飞机）在旧金山和纽约市之间往返的碳排放量。

随着气候变化的迫近，这种做法是不可持续的。

走进阿里巴巴集团达摩院。去年，该研究院推出了全球首个10万亿参数预训练模型M6，专为多模态、多任务处理而设计。 

尽管尺寸较大，但 M6（多模态到多模态多任务巨型变压器）的能耗比其他万亿级语言模型少 80%，能源效率高出 11 倍。

Alizila采访了达摩院人工智能科学家杨红霞博士，了解这种节能人工智能的重要性、其应用以及绿色人工智能模型的未来。

下面为了清晰和简洁起见，对低语记录进行了编辑

问。构建大型人工智能模型的竞赛背后的原因是什么？ 

A.与传统模型相比，大人工智能模型有更多的“神经元”进行处理，就像人脑一样。因此，它们更加智能，并且具有更强的计算机处理能力。

但是大型人工智能模型非常耗能。 Google 的里程碑式人工智能项目至少需要数千个张量处理单元 (TPU)，这些处理器是功能强大的处理器，可以加快任务处理速度，并可用于训练人工智能。

GPT-3 是 OpenAI 推出的一种功能强大的语言模型，据估计，它在训练中消耗的能量与往返月球的汽车消耗的能量相同。这对环境的破坏太大了。

从长远来看，大型、耗电的人工智能模型是不可持续的，因为只有大型科技公司才有能力使用数千个 TPU 来运行超过 1000 亿个参数的人工智能模型，这意味着人工智能只有极少数人可以访问。

问。 M6车型有何独特之处？ 

A.在 M6 之前，大多数大型语言 AI ​​模型都是用英语训练的，并且基于涉及单一模态的学习。例如，Open AI 的 GPT-3 主要是一种语言模型，经过训练，可以基于自然语言处理来预测下一个单词。

M6是第一个用中文训练的具有多模态理解的模型，包括图像、文本、视频、音频和数值数据等多种数据类型。 M6就像一个超级大脑，如果你给它输入特定领域的数据，它很快就会成为该领域的专家。 

M6 还具有很高的能效。 M6 的大小是 GPT-3 的 50 倍，但其能耗仅为 GPT-3 训练所需的 1%。这对于减少模型的碳足迹和提高人工智能的可及性非常重要。

问。达摩院为何发明M6？ 

A.一开始，因为我们面临资源限制ts。谷歌和 Facebook 拥有大量 TPU 或图形处理单元 (GPU) 资源可供部署，但大多数中国科技公司的资源相对有限。

假设能耗水平不变，128个GPU就足以训练百亿参数的AI模型。但对于万亿级参数的人工智能模型，训练需要12800个GPU，远远超出了中国大多数科技公司的能力。

那时我们意识到，要扩大规模，我们必须解决人工智能模型的能源消耗问题。

问。 M6将如何使用？ 

A.让我举个例子。 M6 已用于支持[市场]淘宝上的搜索和推荐，特别是文本和图像配对。

千禧一代和 Z 世代需要个性化的购物体验。例如，他们可能想搜索一款坚固耐用的杯子，但很少有商家在产品标题中写上“坚固耐用”。所以他们需要一种既能理解文本又能理解图像的算法ge 找到完美的文本与图像配对。

只有M6具有跨模态和多模态，才能在上下文中理解文本和图像的含义。

M6的另一个应用是设计和制造。 M6可以帮助设计师通过图像合成快速生成草图。设计师可以处理 M6 创建的草图，并将生产周期从几个月缩短到几周。

采用 M6 的设计与更环保的材料相结合，可以将 T 恤制造的碳足迹减少 30% 以上。

问。为什么达摩院认为我们会看到更多小型和大型人工智能模型的共同进化？ 

A.目前，大型人工智能模型的训练是在云端进行的。但边缘计算是未来。从手机到 VR/AR 眼镜，再到自动驾驶汽车，边缘设备将处理它们收集的数据，并在数据生成的地方分享见解。

出于数据隐私方面的考虑，用户更愿意拥有较小的人工智能模型在边缘维护，而不是在云中训练的大型人工智能模型。边缘计算将为人工智能的真正个性化铺平道路，因为每个人的人工智能模型都会多样化。

对于活跃用户，他们的人工智能模型将定期更新。对于那些不这样做的人来说，他们的模型会保持更稳定。边缘的小型AI模型会定期与云端的大型AI模型同步，实现协同进化。

请参阅 https://www.alizila.com/esg/，了解有关阿里巴巴可持续发展工作的更多信息。

人工智能 阿里巴巴 纽约证券交易所：阿里巴巴