昇腾950DT汕头点亮：11月底商用"词元出海"，算力芯片标尺从"单卡算力"换成"每千Token成本"！

昇腾950DT汕头点亮、4TB/s带宽直指KV Cache：11月底商用，算力芯片标尺从"单卡算力"换成"每千Token成本"

原创 “算力芯片” （公众号）2026年11月3日

10月29日下午，汕头跨境数字经济产业园里开了一场规模不大的推介会。没刷屏，没上热搜，通稿写得也很克制。可把时间线摊开看，这件事的分量并不在会场里：9月24日签约（华为和天亿马301178），10月19日机房上架点亮，10月29日对外推介，11月底计划正式推向市场。一个月走完从合同到通电，接下来一个月要走完从通电到对外卖服务。

更值得琢磨的是这套设备被装在了什么地方。不是常见的智算中心扩容清单，而是一座"词元工厂"的生产线。那条线出厂的不是模型，也不是显卡，是Token。

这篇想说清楚一件事：当结算单位换成Token，参数表上最该被红笔圈出来的，已经不是算力了。

01. 先把时间线摆正

据21财经2026年10月31日报道，天亿马 301178 采购的华为昇腾950DT算力设备，已于10月19日完成机房上架点亮；汕头由此成为全国首批、广东省首座应用该型号芯片的城市。同一篇报道还原了另外几个节点：10月29日下午，以"昇腾聚力 智向出海"为主题的推介会在汕头跨境数字经济产业园举行；9月24日的2026词元出海创新发展大会上，华为与天亿马完成950DT算力集群合作签约；此次部署16张950DT芯片，目前已上架通电，正处于调试、组网和部署大模型阶段，预计11月底正式推向市场。

天亿马 301178 副总经理林树生在那次会上讲了两句技术性的话，一句是950DT"具备大容量HBM和4TB/s内存带宽，恰好解决词元生产过程中KV Cache带宽瓶颈"，另一句是"适配词元生产Prefill+Decode分离部署模式"。

我反复读了这两句。它们比"首批点亮"这四个字更值得行业记下来。因为一家采购方的负责人，在推介会上主动讲的不是峰值算力，不是制程，不是卡数，而是带宽、缓存和部署方式。客户嘴里跑出来的词，往往就是下一轮招标书里的评分项。

先说清楚一点：这不是一场发布会，设备也还没正式对外提供服务。"预计11月底"是计划节点，不是既成事实。本文后面所有推演，都建立在这个尚未落地的前提上——如果11月底没如期商用，那么该被修正的是结论的时间轴，而不是结论的方向。这一点我愿意先摆在纸面上。

02. "首批"这两个字，比16张卡更值钱

16张卡，放在今天动辄万卡、十万卡的语境里，实在不算一个能拿来做标题的规模。摩尔线程与京东云合作拟建设的全功能GPU集群，公开表述是十万卡级别；昆仑芯P800已实现万卡集群部署；清微智能的TX82 4K超节点宣称可扩展到4096颗芯片。相比之下，16这个数字小得几乎有点朴素。

那它凭什么值得写一篇长文？

我的看法是，"首批"意味着三件规模数字给不了的东西。

第一是口径被真实环境检验过一次。纸面参数、实验室跑分、厂商提供的基准，都属于"可声明"的范畴；上架通电、组网、部署大模型，属于"要交付"的范畴。据21财经报道，当前设备正在调试、组网和部署大模型——也就是说，它正卡在从前者走向后者的那段最不体面的路上。这段路通常不上宣传稿，却最能说明一套系统到底是能跑还是好看。

第二是应用场景被钉死了。这批卡不是放进一个通用资源池等客户来租，而是接进了"词元生产"的产线。场景一确定，评价指标就跟着确定：训练集群看的是与扩展效率，词元产线看的是单位时间内能吐出多少可计费的输出。芯片还是那颗芯片，考卷换了。

第三是时间窗口。11月底商用是公开计划，也就是说，从11月3日到11月底，还有不到一个月。这段时间里，第一批真实跑出来的数据、第一批客户的验收口径、第一批暴露的问题，都还没有被写出来。谁先把解释框架搭好，谁就能在结果出来时占据"最早说清楚"的位置。做内容的人管这叫卡位，做产业的人管这叫标准话语权，其实是同一件事。

需要提醒的是，我上面这套判断属于推演，不是报道里给出的结论。公开信息只支撑"上架点亮、正在调试、计划11月底商用"这些事实，不支撑"必然会如何"。把它分开写，是对读者最起码的诚实。

03. 4TB/s：把带宽讲成人话

先把数字的出处钉住。据百度百科"国产AI芯片"词条对昇腾950系列的整理，950DT按规划于2026年第四季度推出，侧重推理解码和训练场景，配备144GB内存，内存访问带宽4TB/s，互联带宽提升至2TB/s；基于950DT打造的Atlas 950超节点最多支持8192张昇腾卡，采用自研"灵衢"互联技术。21财经的报道则给出4TB/s这一带宽，并明确指向"KV Cache带宽瓶颈"。两处口径一致，可以互相印证。

4TB/s是什么概念？打个不算严谨但好用的比方：如果把一个大模型推理过程想成一条装配线，计算单元是工人，权重和中间数据是零件，那么内存带宽就是从仓库到工位之间那条传送带的宽度。工人再快，传送带每秒只能递过来这么多零件，产出就卡在这里。

大语言模型生成一个Token，不是"算一次"就完事。每往前走一步，都要把模型权重读一遍，还要把前面所有步骤留下的注意力状态——也就是KV Cache——反复搬出来用。序列越长、并发越高，这份缓存越膨胀。

这就是为什么"高解码"会被单独拎出来当卖点。解码阶段是逐个Token往外吐的过程，它天然偏访存密集，而不是计算密集。Prefill阶段把整段输入一次性吃进去，算力能吃满；到了Decode阶段，算术单元常常在等数据。等到什么程度，取决于带宽，不取决于峰值TFLOPS。

于是出现了一个对普通读者有点反直觉的结论：在一座按Token计费的工厂里，4TB/s这个数字，可能比同一张参数表上任何一项算力指标都更直接地决定收入。 带宽翻一倍，不等于收入翻一倍——中间还隔着调度、批处理、模型结构、命中率一堆变量——但带宽如果不够，再高的算力也只能空转。

我把话说得保守些：这是架构层面的常识推断，不是对950DT实测性能的判断。目前没有公开的第三方实测数据能证明它在这条产线上的每千Token成本表现，本文也不打算替它下这个结论。11月底之后如果有真实跑数出来，那才是该重新算账的时候。

04. Prefill和Decode为什么要拆开

林树生提到的"Prefill+Decode分离部署"，是这两年推理架构里最实在的一次变化，值得单独说一段。

湖北日报《信息参考｜2026 AI算力半导体趋势要点》里给过一个很简洁的描述：AI推理架构迈向计算解耦，通过拆分预取与解码阶段，搭配专用处理器实现算力优化，降低HBM需求与资本开支。开源证券2026年11月1日的计算机行业研究报告也把"有效Token产出与端到端效率"列为产业竞争的新焦点。

拆开的好处，说白了是让两种脾气完全不同的活儿，各自去最适合的硬件上干。Prefill是短促、爆发、计算密集的一阵；Decode是漫长、细水长流、访存密集的一整段。把它们塞进同一批卡里混跑，调度器就得在两种截然不同的资源画像之间反复妥协：批处理开大了，长请求的时延难看；批处理开小了，算力利用率又掉下来。分开之后，Prefill池可以追求瞬间算满，Decode池可以专门堆带宽和容量，两边各自按自己的节奏扩。

对芯片设计来说，这个拆法会反过来影响产品定义。既然Decode侧最吃带宽，那么一颗主打解码的芯片，把晶体管预算往HBM容量、内存接口、互联上倾斜，就是合理的选择；反过来，如果一颗芯片还想通吃训练和Prefill，它的取舍会完全不同。950DT被公开描述为"主打大模型训练与高解码""具备大容量HBM和4TB/s内存带宽"，同时又被放进一条采用分离部署的产线——这两件事放在一起读，指向的是同一个方向：产品定义开始跟着部署形态走，而不是部署形态去迁就产品定义。

还有一个容易被忽略的连带效应。湖北日报那份趋势要点把计算解耦和"降低HBM需求与资本开支"连在一起说，这个因果值得留意：如果Decode侧能用专用处理器和更匹配的部署方式把压力卸掉一部分，那么整条产线对最贵那部分存储的依赖就有松动的空间。这跟后面要讲的成本账是同一条线，本文第04篇会专门展开，这里先按住。

需要标注的是，"分离部署"是当下主流方向之一，不是唯一解，也不是没有代价——跨阶段搬运KV Cache本身会引入网络与调度开销，超节点和高速互联的价值恰恰在这里被放大。据百度百科同一词条，Atlas 950超节点的互联带宽提升到2TB/s，这个数字放在分离部署的语境里才更好理解：它不只是为了把更多卡连起来，也是为了让拆开的两段还能像一台机器那样说话。

05. 记分牌换了一张

三年前，行业里聊一颗算力芯片，开场基本是同一个问题：FP16多少TFLOPS？后来加了几个：HBM多大、互联多快、能组多大集群。这些问题今天依然有效，但它们已经不足以回答采购方最关心的那一个。

现在客户更可能问的是：一秒钟能吐出多少有效Token，每千Token摊到多少成本，长上下文下时延稳不稳，并发上去了会不会塌。

这不是修辞上的变化。开源证券2026年11月1日的研报把这句写成了行业判断："产业竞争正从单芯片峰值性能转向有效Token产出与端到端效率，计算、存储、封装、互连及整机协同升级。"中国日报网刊发的《告别参数竞赛，国产AI芯片用系统级优势打开规模化新窗口》也用了几乎相同的框架：竞争焦点从"单颗芯片有多强"转向"整套系统能交付多少有效算力"。证券时报在2026世界人工智能大会的报道里，引述摩尔线程生态副总裁吕其恒的一句现场观察更直白："往年，各家公司强调的是芯片做得好不好，算力是否跑得通，今年都在强调AI用得好不好。"

三份不同出处、不同视角的材料，指向同一个措辞迁移。做内容的人对这种信号要敏感：当厂商、研究机构、采购方不约而同地换了说法，说明考核标尺真的动了，而不是公关稿在换词。

为什么是现在动？我的理解有两层。

一层是需求侧。AI应用从"单次生成"走向多轮交互、长上下文与多智能体协同，这是开源证券那份研报的原话。单次问答可以在实验室里跑得漂亮，多轮Agent一旦上线，Token消耗是持续性的，成本会按天出现在财务报表上。持续消耗型的需求，天然会把"单位成本"顶到第一优先级。

另一层是供给侧。当算力开始被封装成可计量、可结算的标准化服务，芯片就不再只是被采购的固定资产，而是直接嵌进了收入公式。据人民网广西频道2026年9月30日报道，中国信息通信研究院人工智能研究所与润建股份联合发布的《词元工厂建设运营与生态发展研究报告》，把产业链拆成上游依托能源、算力、模型完成词元量产，中游平台承担中转聚合、调度分发，下游覆盖消费端、行业端与开发者生态。在这个结构里，芯片位于上游的最前端，它的效率会以成本的形式，一层层传导到下游的报价单上。

于是"每千Token成本"不再是一个技术KPI，而是一个商业KPI。这是我想在这篇里留下的核心判断。

06. 芯片公司进了一条新的生产线

把视角从采购方挪到供给方，会看到一件更有意思的事。

传统链条大致是：芯片厂商把卡卖给服务器厂商，服务器厂商把整机卖给智算中心，智算中心把机时租给客户。链条很长，芯片厂商离最终使用场景隔着两三层，能拿到的反馈大多是销量和返修率，而不是"这张卡在实际业务里每秒产出多少"。

词元工厂把这段距离压短了。据央视网2026年10月28日报道，厦门词元出海的首单业务上线第一周，交易量就突破百亿词元；报道描述的场景是，埃塞俄比亚一家直播机构使用的中文脚本，由八千多公里外厦门跨境机房内的国产大模型按需调用词元、秒级生成，同时提供视频多语言译制、声音复刻、实时字幕翻译、多语言配音等推理能力。据中国金融信息网2026年8月26日报道，南宁五象云谷的润建股份词元工厂算力产能可达每小时2000亿词元，把算力封装成可量化、可交易、可结算的标准化服务。

在这类产线里，芯片是生产资料，不是待售商品。生产资料的评价方式只有一个：单位产出成本。 这跟卖设备时的评价方式完全不同——卖设备看一次性报价和参数对比，做生产资料要算折旧、电费、利用率、故障率、调度损耗，算的是一整年的账。

汕头这次的意义，我觉得就落在这里：16张950DT被明确接进"词元生产"的产线，并且被用"解决KV Cache带宽瓶颈"来描述其价值。这句话的潜台词是，芯片的价值主张已经开始按产线语言来组织，而不是按发布会语言来组织。

当然，一句推介会上的表述撑不起这么大的结论。我把它当作一个信号，不当作证据。真正的证据要等11月底之后：有没有公开的产能数据，有没有报价口径，有没有第三方跑出来的单位成本。

07. 采购单会怎么改

前面讲了不少结构，这一段落到能用的地方。如果一家智算中心或AI应用团队在2026年四季度重写采购与验收清单，我会建议把下面几项加进去——这不是标准答案，是一家之言，供对照。

第一，把"有效"写成可测项，而不是把峰值算力写成可测项。约定清楚测试用的模型、精度、上下文长度、并发数、批处理策略，以及统计口径是"生成Token"还是"含输入Token"。同一个系统在不同口径下能差出好几倍，不写清楚，验收时必然扯皮。开源证券把"有效Token产出"列为竞争焦点，落到合同里就是这一步。

第二，把长上下文下的稳定性单列。KV Cache随序列长度线性膨胀这件事，在短上下文测试里几乎看不出来，一旦上了Agent的多轮长会话，带宽和容量的压力会突然显性化。测试集里如果没有长序列用例，等于没测最痛的那部分。

第三，把互联和整机形态写进评估，而不只评估单卡。计算解耦之后，Prefill与Decode之间的数据搬运要靠互联兜住；超节点、液冷整机柜这些交付形态，影响的不是单卡性能，是整套系统能不能稳定交付。开源证券2026年11月1日的研报把"超节点及液冷整机柜推动交付形态向系统集成演进"单独列为一条，采购端最好同步跟上，别还停留在按卡比价。

第四，把能耗和机房条件前置。这不是环保口号，是成本项。中国金融信息网2026年8月26日关于2026绿色算力大会的报道里提到，和林格尔数据中心集群每年可向数据中心输送7.6亿度可溯源绿电，通过41公里专线直送机房，到户电价控制在每度0.36元左右，企业用电成本较东部发达地区降低约20%。同一份算力、不同电价，落到每千Token成本上是两个生意。

第五，留一条"口径复核"的尾巴。本文引用的数据来自公开报道与转述，包括二手引用的机构报告；不同来源对"出货量""加速器""集群规模"的定义未必一致。签合同前，把对方给的每一个数字问一遍出处和测试条件，比事后争论有用得多。

08. 月底之后，该盯哪三个数

第一是真实产能。不是设计峰值，是产线跑起来之后按小时或按天公布的实际词元产出。16张卡的规模不大，恰恰因此数据更干净，更容易看出调度与部署的真实效率。

第二是结算方式。是按卡时、按机时，还是直接按Token计价。结算单位决定了成本压力最终压在谁身上，也决定了芯片效率能不能被直接兑现成报价优势。人民网2026年7月16日报道过软通动力"北京壹号词元工厂"投入运行，并面向全球发布、开源"词元工厂性能基准"；标准化基准一旦被更多产线采用，比较不同芯片的单位成本会变得比现在容易得多。

第三是故障与利用率曲线。这类数据通常最难拿到，也最值钱。产线型业务最怕的不是峰值低，是不稳。

这三个数如果有一部分公开出来，我会回来把这篇重写一遍，把推演换成实测。如果都没有，那么"标尺切换"依然成立，但节奏要往后放——判断方向和分析节奏，是两件事。

我并不觉得"单卡算力不重要了"。训练侧、Prefill侧、很多科学计算场景，算力依然是第一位的。真正变了的，是"一颗芯片好不好"这个问题，开始没有一个统一答案了。它取决于你把它放进哪条产线、按什么单位收钱、跑的是什么样的上下文。

10月19日那间机房通电的时候，大概没人会去想记分牌的事。但参数表上被反复强调的那一项，已经从"能算多少"变成了"能多快把数据递到算的地方"。这个变化不响，却比任何一次跑分刷新都更难逆转。

$大东方(SH600327)$、$龙江交通(SH601188)$、$闽发铝业(SZ002578)$