从小麦到消费者买到的可以吃的面粉,中间要经历哪些环节?

首先需要有磨面粉的机器,然后把小麦磨成面粉,接下来是以什么方式卖给消费者的问题,那就是以斤或者袋的计量方式卖出。

还有一种情况就是,如果有其他人想做卖面粉的买卖,但手里又没有足够的钱买磨面粉的机器,那么新的思路就来了——租人家的磨面粉机器。

说了这么多,与接下来要切入算力租赁、词元(Token)的正题,又有什么关系呢?

“算力租赁和词元是啥?”

算力租赁,参考上文租人家磨面粉机器的,只不过这里是租人家GPU服务器。企业不用一次性砸几千万去买硬件、建机房、配空调,而是按月、按小时,甚至按分钟向云计算厂商或算力服务商租用。

词元(Token),参考上文的面粉的计量单位——斤/袋,只是,在这里它变成了大语言模型处理文字的最小原子。比如,你说“今天天气真好”,模型不是一下子理解一整句话,而是把它切分成“今天”“天气”“真”“好”之类的碎片。一个汉字大概占1到2个词元。模型输出答案时,也是一个词元一个词元往外蹦,最后串成你看到的内容。API调用的定价、大模型消耗的成本,几乎都以“每百万词元”作为结算单位。

接下来的问题就是,租算力硬件的厂商,和计数收费的词元,到底是怎么绑定共生的关系?

“换算关系。”

无论多么聪明的大模型,生成每1个词元都要消耗大量的浮点运算。以开源界熟知的Llama 3 70B这类大模型为例,它在推理时每输出一个词元,光GPU就要跑过百亿甚至上千亿次计算。

一张H100显卡,半精度浮点算力将近2000 TFLOPS,也就是每秒能进行两千万亿次运算。一张卡理论上每秒能生成上千个词元,但落到真实服务中,还要受内存带宽、批处理策略、模型优化等影响。

算力租赁的核心就是,你租的是A100、H100还是最新B200,显卡代际差距,直接卡死单位时间Token产量。AI应用承诺毫秒级响应,背后一定是高密度高端租赁算力兜底。

没有这一层实打实的算力-Token物理换算,后面所有商业故事可能全都会站不住脚。

“传导关系。”

词元的定价,本质是算力账单的精细均摊。

既然生成词元要吃掉算力,那么大模型厂商给API定什么价,就得先看它手里的算力成本账单。

一台8卡H100推理服务器,2026年合规全包月租大概6.5–7.5万元,随租期、电费、地域浮动。只要机器24小时高并发跑满、模型量化优化到位、GPU不空转,折合每百万词元纯硬件成本就可能能压到几毛钱。

2024年到2026年,国内外大模型API经历了降价。有些头部模型把每百万词元的输入价格打到了几分钱,输出价格小几毛钱。而在这背后的因素是,一方面算力租赁供给走向充裕,另一方面硬件的能效代代提升,单位词元成本被摊薄得越来越低。

信通院研究指出,算力成本的下降是大模型推理服务价格大幅走低的硬底座。可以说,词元价格上的每一次下行,都能在算力租赁的规模化效应中找到记账依据。

“供需关系。”

到了这一层,AI变成了会随着人们作息波动的服务。白天,上班族用AI整理会议纪要、辅助写代码等;深夜,全球的游戏玩家在连麦时让AI队友实时分析战况。词元的消耗量不是一条平稳直线,而是有需求波动的。

比如,去年11月份的电商大促,电商AI导购、智能客服词元调用,半小时就能冲到日常10倍以上。如果企业全程自建机房囤显卡,必须按最高峰值备货;大促一过,大量显卡长期空转耗电、疯狂折旧,财务负担极重。

这时候,算力租赁的价值就凸显出来了,它可以随租随还,日常保底一个基本量,高峰时段一键调用云端和裸金属服务器的短期租赁资源,词元请求洪峰过去再释放掉。词元用量无法预测的脉冲性,倒逼出对算力租赁灵活性的深度依赖。

反过来,算力租赁平台也只有承接住这种脉冲,才能把闲置资源池的利用率拉满,实现自身盈利。这一层关系,就是供需咬合。

“循环关系。”

站在当下,词元早已不只是对话框里的文字,而是蔓延到了AI生成视频、AI操控智能体(Agent)、AI调用各种API完成订机票等复杂任务。有云计算巨头在2025年度财报电话会中明确表示,AI推理产生的Token处理量已呈现指数级增长,其算力需求增速远远超过了模型训练。

当词元成为数字世界里流动的通用劳动单位,它对算力租赁提出的要求就不再是能有卡用了。

这一层关系是正向循环的,词元应用场景越丰富,下游的总体消耗量越大,就越需要大规模、高能效的租赁服务;而算力租赁的规模越大、技术越强,单位词元成本就越低,又能催生出更多此前不敢想的AI原生应用。

“写在最后。”

所以,理清这些依存关系后,AI的底层运行逻辑其实就像工厂流水线。

电力与芯片是原料,算力租赁是随时可扩可缩的厂房,词元就是产线上一个一个被打包好的标准件。模型厂商把词元组装成智能服务,卖给应用端,赚到钱再去订购更多算力,催生更高效的芯片,再让词元的成本进一步下降。

参考资料:

财联社.我国AI原生办公智能体月访问量超2000万次 日均词元调用量达数百万亿次.2026年7月7日.#特朗普:美伊谅解备忘录“已终结”#  $上证指数(SH000001)$  #云计算板块走高,行情逻辑是什么?#  $云计算(BK0579)$  #港股科技股大爆发,行情拐点真来了?#  

追加内容

本文作者可以追加内容哦 !