2026年，中国AI产业最焦虑的事情，可能不是模型能力不够——智谱5.2、DeepSeek V4、MiniMAX轮番上场，模型越来越强。
一个AI智能体处理一次用户请求，输入的上下文Token量，可能是输出Token的上万倍。你只问了一句“帮我总结这份财报”，后台打包发送的却是几十万字的完整对话历史。
有开发者私下吐槽：“本来指望AI帮我省钱，结果用AI本身变成了一笔大开支。”
更严峻的是，当AI产业从“算力时租”转向“词元计价”，算力成本不再是边际递减，而是开始指数膨胀。
通用GPU继续堆核、堆频率、堆制程；而一群“TPU信徒”则在讲另一个故事：专用芯片，才是算力的终极解药。
2026年6月30日，国内最早押注TPU路线的中昊芯英，正式发布了第二代全自研TPU芯片“须臾”和泰则2.0智算平台。896TFLOPS单卡算力、7.168PFLOPS单机算力性能、百万Token成本腰斩……
采访中，中昊芯英创始人兼CEO杨龚轶凡算了一笔账：“当下绝大多数AI软件服务商毛利率不足40%，算力硬件开支是核心成本项。如果我们能把单位算力成本减半，客户毛利率可以从40%提升至70%。反之，如果算力成本居高不下，很多AI业务会陷入亏损、商业模式无法闭环。”
传统聊天机器人，用户输入多少、输出多少，Token消耗相对可控。但智能体不同——它每一次调用API，都会把全部历史对话上下文打包传输。用户只问了20个字的简单问题，API请求的Token量可能高达二十万。
早期行业鼓励无限制调用，大模型厂商甚至补贴用户使用。但进入2026年，无论大厂还是中小企业都开始严格管控Token用量。算力成本，正在从“技术问题”变成“生存问题”。
当AI从研发阶段进入规模化商业部署阶段，企业对算力的诉求正在从“灵活性优先”转向“成本优先”。
杨龚轶凡在采访中给出了一个犀利判断：“GPU技术至今已经发展三十余年，英伟达、AMD每年合计投入数十亿美元研发。经过长期迭代，GPU相关硬件架构、软件栈的优化空间基本已经被挖掘殆尽，后续升级基本只依托先进制程和新型存储做微调，底层核心架构很难再做颠覆性革新。”
与此同时，完整CUDA软件生态已经成为GPU厂商最坚固的护城河——也是全行业切换技术路线最大的门槛。
意味着在GPU这条赛道上，后来者几乎没有弯道超车的可能。杨龚轶凡直言：“国内GPU厂商底层软件框架最终会走向兼容互通，但想挑战英伟达的地位，几乎不可能。”
“当年我们选择TPU赛道，本质是做了次行业预判押注：我们笃定Transformer架构、大模型深度学习会成为人工智能长期发展核心主线，AGI商业化落地一定会成为行业主流趋势。”
相比于GPU三十年的成熟期，TPU整体研发历史不足十年。谷歌2015到2016年才启动初代TPU研发，Groq核心团队也脱胎于谷歌TPU体系。整个赛道仍存在大量待挖掘的技术空白。
杨龚轶凡认为，TPU至少还有5年的架构创新窗口期：“当前TPU还是在一个早期的技术路线，还有很多创新点等待我们去开发。硬件架构高度依赖产品流片、量产迭代来验证创新思路，每一代芯片都可以新增专属硬件特性，持续拉升算力与能效。”
TPU架构天然面向大模型高并发张量计算做深度定制优化。杨龚轶凡给出的数据是：在同等制程、同等硬件成本前提下，运行主流深度学习模型时，TPU综合性能可达通用GPU的3到5倍。
Prefill-Decode分离，简单说就是把推理场景中的“预填充”和“解码”两个计算环节拆开，用不同的专用硬件分别承载。两者的计算逻辑差异极大，分开优化后买球股份有限公司整体性价比可以实现大幅提升。
杨龚轶凡指出：“这是GPU架构很难灵活实现的设计思路。通用GPU兼顾全场景通用能力，在这种细分专业化场景下优势会大幅缩水。”
事实上，全球行业趋势已经佐证了这个判断：谷歌持续大规模扩产自家TPU，大量海外企业批量采购TPU算力。专用张量计算芯片的市场需求，正在以远超行业预期的速度增长。
杨龚轶凡的回应非常干脆：“对AI服务商、政企客户而言，单位百万Token算力性价比永远是第一决策标准。”
他甚至重新定义了芯片设计的优先级逻辑。传统芯片厂商追求PPA平衡——性能、功耗、面积三者精打细算。但中昊芯英的思路完全不同：“因为TPU架构本身天然比通用GPU能耗更低，因此我们PPA核心是平衡性能和芯片面积，功耗并非首要优化目标。我们最后要实现的是百万Token成本降到最低。”
单颗“须臾”芯片混合精度浮点算力达896TFLOPS，是上一代“刹那”的3倍；8-bit推理算力1792TOPS。单卡显存和片间互联速率均有大幅提升，额定功耗600W，相比性能持平的传统芯片功耗降低50%。
搭载8颗“须臾”的泰则2.0单机算力达7.168PFLOPS，整机能耗仅为传统GPU服务器的80%。在集群层面，单个超节点可实现2048颗芯片直联，并可拓展至万卡集群。
杨龚轶凡表示，在同规模大模型推理场景下，中昊芯英平台的百万Token成本，仅为海外主流GPU方案的35%-50%。
一代到二代，百万Token推理性价比实现了“两倍以上提升”。而远期目标是“降到原有十分之一”。
，二代芯片重构了全链路计算流，消除了传统矩阵乘加运算中的数据依赖空泡，单计算单元硬件利用率大幅提升。脉动阵列的数据流调度经过深度优化，单路计算性能直接提升20%到30%。
，TPU片内存储容量对比通用GPU有量级优势，“差距接近数倍”。超大容量片上内存大幅提升KV Cache缓存命中率，省去大量重复矩阵运算，高效释放存储带宽。
，自研低延迟高并行片间通讯协议，对比一代传输效率显著提升，综合算力实现三倍增长。杨龚轶凡算了一笔更大的账：“如果拿智算中心三年周期内的整体能耗开支进行核算对比会发现，当前海外知名GPU整机硬件采购成本占到全生命周期运营总成本近80%，能耗开支占不足20%；我们产品的采购、能耗成本比例大致为 7:3，硬件采购占70%，能耗占30%，能耗支出占相较海外知名GPU本身就有已经更有优势。如果我们能把性能提升1.5到2倍，能耗再降低20%到30%，那么我们的市场竞争力会非常明显。”
而在大型智算中心集群部署场景中，TPU的优势不止于电费节省。低功耗意味着同等能耗配额下可以部署更多服务器，器件发热更少、老化故障概率更低，长期运维成本同步下降。“综合来看，集群多年运营总成本降幅远不止20%。”杨龚轶凡表示。
2023年，初代“刹那”芯片流片成功，成为国内首枚高性能TPU AI专用算力芯片。但杨龚轶凡回忆，真正的挑战在流片之后才开始。
“硬件批量部署相对简单，但完整软件栈、算子适配、工具链打磨需要海量自有算力持续迭代，这是所有国产算力芯片厂商共同的痛点。”杨龚轶凡坦承，“仅用一年半搭建软件栈，不可能达到英伟达二三十年持续重金投入的生态成熟度。”
但中昊芯英的应对策略很务实——不追求全场景覆盖，而是聚焦国内主流大模型深度适配。
杨龚轶凡表示：“我们资源高度聚焦大语言模型赛道。底层主流开源框架全部原生适配，配套标准化Docker镜像，开发者拿到镜像后可直接沿用原有框架代码，不存在大规模底层迁移改造成本。”
更重要的是，中昊芯英明确不走封闭路线。“我们不会复刻封闭式全套软件体系。我们坚持全面拥抱开源，兼容全球主流开发平台。客户迁移时我们配套专属算子优化，不仅不会出现性能损耗，反而能提升推理算力表现。”
目前，中昊芯英的产品已成功部署于深圳联通、天津移动、太极股份、江西上饶等运营商、政府机构和科技企业建设的多个超大规模智算中心，并在高校、科研机构的科研计算平台与教学环境中投入使用，辐射金融、传媒、教育、医疗等广泛行业领域。
从“芯片可用”到“芯片好用”，再到“算得起”，这可能是所有国产算力芯片厂商未来五年必须跨越的三道门槛。
“我们创业之初就确立了目标——不是复刻英伟达路线。我们希望把TPU这个架构做成AI界的X86，推动TPU成为AI领域的通用底层架构。”
意味着中昊芯英想要的不只是一家芯片公司的商业成功，而是定义一个技术标准。
“未来即便涌现更多TPU、专用算力创业企业，我们不会恶性竞争，而是开放协同、共建TPU软硬件标准，联合全产业链完善技术体系，做TPU架构普及与标准化的核心推动者。”
GPU赛道已经固化，头部玩家三十年积累的护城河让后来者几乎没有机会。而TPU赛道尚处早期，全球范围内还没有形成类似CUDA那样的垄断性生态，市场格局远未定型。
与此同时，中国市场有独特的需求变量：关键行业的信息安全合规要求、自主可控的政策导向、以及全球地缘政治带来的供应链不确定性，都给国产TPU提供了差异化的生存空间。
当然，挑战同样巨大。软件生态的差距、万卡集群能力的完善、视频等多模态场景的覆盖，都是中昊芯英需要逐步攻克的难题。
TPU赛道至少还需要5年才能进入成熟期，而这5年，恰恰是中昊芯英的窗口期。
更可能的终局是——当新的计算场景出现时，GPU仍然是首选；而大模型规模化商用训练、海量Token高并发推理、成熟AI业务批量落地等场景将逐步聚焦TPU/DSA专用芯片。
这是商业规律的必然：当一个产业从研发阶段走向规模化落地阶段，成本会成为最终的裁判。
杨龚轶凡在采访中讲了一个细节：中昊芯英从第一代芯片起就完整落地了Chiplet芯粒架构，“这套集成方案的复杂程度远高于同行业”。如果当初选择更简单的方案，产品可能更早推向市场，但天花板会更低。
“我们团队内部有三条核心准则：公平、坚持、创新。不管是芯片设计、制造工艺还是供应链管理，遇到各类行业难题，都优先依靠创新方式突破瓶颈。”
中昊芯英的“须臾”只是一块芯片。但它背后代表的专用算力浪潮，正在改写AI产业的成本公式。
x86统治了PC时代三十年，但手机芯片最终选择了ARM。不是因为ARM更快，而是因为它更对——对功耗、对空间、对特定场景做了减法。
GPU统治通用计算的时代同样辉煌，但AI推理不需要渲染游戏画面的纹理单元，不需要图形管线的固定功能模块。当一项技术被赋予太多兼顾，它在任何一个细分方向上都难以做到极致。
TPU正是那个敢于做减法的叛逆者，砍掉通用计算的一切冗余，只为张量运算而活。
如果站在2030年回望2026年，人们或许会发现，中昊芯英须臾芯片的发布，只是一个信号。
真正的变量是，当AI从实验室走入生产线，当算力从能不能变成贵不贵，整个行业对芯片的评价标准，正在发生一次静默而不可逆的迁移。
