谷歌Gemini Ultra模型训练时需要500亿PetaFLOPs算力

AI的总消耗量是多少？训练和输入最常用的模型需要多少能源？根据美国斯坦福大学最近的一份报告，谷歌的Gemini Ultra模型训练时需要500亿PetaFLOPs（每秒千万亿次浮点运算）算力。如果要用商用计算机实现这种计算能力，需要大约1016台计算机。与此相关的训练成本为1.91亿美元，主要归因于能耗。

单个AI模型的耗电量可达数万千瓦时。据技术咨询公司IDC估计，ChatGPT等生成式AI模型的耗电量可能是其100倍。

除了系统本身，处理器还需要冷却，常见的技术包括电动通风和水冷却，这些也都需要能源。

生成式AI模型的大部分能源消耗发生在使用之前，即训练阶段。这是深度学习模型开发的一个关键过程。

大多数数据中心使用图形处理器（GPU）来训练AI模型。GPU运行时需要大量能源，大约是传统CPU（中央处理器）的5倍。训练大语言模型需要数万个GPU，它们需要昼夜不停地运行数周或数月。模型训练完成后，需要托管和利用模型所依赖的数据。因此，数据中心的运转“根本停不下来”。

AI 多模态：虹软科技、万兴科技、当虹科技、中科创达、大华股份、海康威视、漫步者、萤石网络、汉仪股份、美图公司、云从科技；

AI 算力：云赛智联、思特奇、恒为科技、海光信息、寒武纪、景嘉微、工业富联、拓维信息、浪潮信息、四川长虹、神州数码；

AI+办公：金山办公、万兴科技、福昕软件、彩讯股份、金蝶国际、泛微网络、致远互联、鼎捷软件、汉得信息，用友网络。