最近这段时间,硅谷AI界可谓大招频发,前有Fable5发布,后有马斯克的Grok-4.5问世,上个星期,OpenAI的GPT-5.6也发布了。
虽然在性能上,这些个发布的新模型,一个比一个强大,不断在高攀AI智能的最高峰,但在实际体验过程中,越来越多的人,尤其是一线开发者,开始在乎另一件事:使用成本。
具体来说,以最新发布的GPT-5.6为例,在其发布的三个版本中,最强大的旗舰版Sol,在CdoeX中跑任务时,随便跑几下,1小时就耗光了原先的5小时额度;以至于有开发者说道:“5.6 简直就是额度侵蚀怪兽”。

而原先的Fable5更恐怖,在达到惊人智能的同时,Token消耗的幅度,也达到了一个变态的地步。
举个例子:今年6月,36氪用Claude Code实测Fable 5:两小时内,Token成本就达到56.99美元,约合400元人民币,而Fable 5官方API价格高达每百万输出Token 50美元,是Opus 4.8的两倍。
而就在这个众人不断刷新智能最高峰的当下,国内AI的“独孤剑客”
2026年7月7日,国内媒体报道,
同样地,国内的智谱,也传出了要自研芯片的打算;
如果将视角拉到全球,这实际上不是个孤立的现象:
OpenAI、Anthropic这些巨头,都已经、或正在自研自己的芯片;
这场AI企业自研芯片浪潮的背后,实际上有一个共同的危机——全球的算力,越来越不够用了。
实际上,阻碍当前AI落地的最大局限,早已不是模型的智能,说实话,现在AI的“顶”已经够高了,但问题是用起来很肉疼。
这个痛点,即使是相对宽裕的美国企业,也感受到了。
为应对捉襟见肘的算力,OpenAI、Anthropic的顶级模型,最近纷纷遭遇了“降智”,
今年3月到4月,Anthropic的Claude Code被大量开发者投诉"变笨"。
AMD AI高级总监Stella Laurenzo经过调查发现:发现从2月份起,Claude的推理深度中位数从约2200字符暴跌到约720字符,降幅67%;模型每三次修改中就有一次是在没读文件的情况下瞎改。
同样地,到了5月的时候,OpenAI开发者论坛上,有用户报告到:GPT-5.5最近连最简单的UI改动都搞不定;GPT-5.5-xhigh也不再像以前那样能跑几个小时深度修复问题,回答起来明显没那么“智能”了;
在这里,模型缺的算力,其实主要就是推理算力;
这样的情况,就好像AI厂商造了一种特别强大的武器(模型),但却苦于没有足够的弹药(算力),且弹药的供应链还被别人卡着脖子。
于是,各大AI企业,纷纷下场亲自造芯片,也就不足为奇了。
今年6月24日,OpenAI联合博通正式发布了首款自研芯片,定位极其明确:只做推理,不做训练。从架构设计到流片交付,仅用了9个月。

可能有人会问:英伟达作为全球算力巨头,在训练芯片上收割那么多利润,也就算了,为什么连推理芯片也不肯放松一下,稍微降低点成本,一定要把下游的AI企业、应用企业逼到墙角呢?
这背后,其实有一个很讽刺的悖论:英伟达不是"不肯"降,而是"不能"降——降价等于自己拆自己的台。
因为从技术角度上说,英伟达的GPU在进行推理时,不可避免地会产生H100为了兼容所有可能的模型、所有可能的算子,保留了大量灵活性电路,这些资源,在固定模型的推理场景下是浪费的。
英伟达最新的B200,制造成本约6,400美元,其中真正的"英伟达技术结晶"——那个2,080亿晶体管的GPU核心——成本只有850美元,占总成本的13%。 但它的终端售价却是3万到4万美元,甚至市场上炒到4.5万到5.5万美元。毛利率高达84%。
如果英伟达推出一款"低成本推理卡",比如成本2000美元、售价5000美元,性能还比H100做推理强——那它就等于亲口承认:"原来我之前的GPU里,有80%的电路是浪费的,你们多花的3万美金是冤枉钱。"
那以后H100/B200的训练溢价还怎么维持?
所以,这场推理层面的价格革命,不可能由英伟达这个“算力领主”自身来完成。
实际上,除了
例如Groq、Etched、Cerebras这些企业,走的就是专用推理芯片对抗英伟达GPU的路子,
总体上来看,它们的路线大体就是,将某一特定架构(例如Transformer)的机制直接烧进硅电路,通过舍弃可编程性、通用性,来换取在推理场景下极大的效率提升;
像是Sohu的芯片,就没有任何可编程性,它生来就是为了跑Transformer,而且只跑Transformer。
而Cerebras则更极端,更变态:它索性不切晶圆,而是把整片晶圆做成一颗芯片。WSE-3面积达46225平方毫米,集成4万亿晶体管,这外观,看上去就跟个“大饼”一样。
其核心思路,是用晶圆内通信取代GPU集群昂贵的跨卡数据搬运;
但问题是:这么搞,良率、散热与整机成本也同样很极端了。
但尽管如此,要想在推理场景上战胜英伟达,也绝非一件易事,
原因主要有两点。
其中第一点,就是专用架构随时被颠覆的风险。
这是所有专用路线最大的命门。
虽然Transformer从2017年到现在都八年了,架构并没有发生颠覆性变化。
但在2024到2026年这两年,由于
Etched的Sohu是纯Dense Transformer硬化,硬编码不支持MoE的动态专家路由。 而现在的
而第二点,则是“产能地狱”的困境。
就算你在专用的推理场景下,比英伟达的GPU更有效率,你还得跟人家抢产能。
Etched的Sohu,号称采用台积电4nm工艺,并宣称预售合同超10亿美元,但截至2026年中,Etched还没有任何芯片向客户交付。
一个很现实的原因是:台积电4nm的产能,英伟达、苹果、AMD都在抢,台积电董事长魏哲家曾直言,7nm及以下先进制程产能,现在与大客户需求相比“还差约3倍”。
在这种情况下,Etched、Groq作为一个豆粒大的小初创公司,优先级在哪?

产能风险是"绞索",每天都在收紧;架构风险是"断头台",不一定天天要面对,但落下来就身首异处;
那以后
从商业上来看,Groq、Etched们造芯片是为了卖给别人,所以必须追求性能极致、必须用最先进的制程,否则没人买,
因此,一种最有可能的情况是:
在性能方面,它可能比英伟达GPU做推理差一个档次,但单位token成本可能真的低一个数量级。
而这样的自研,除了“节约算力”这样的表面原因外,更深层次的动机,则是将AI架构发展的自主权,重新夺回自己的手里。
总的来看,
但对
这背后就涉及到一个软硬协同的问题。
现在
具体来说,以前的Dense(稠密)模型在GPU上像"统一军训"——所有Token做一样的动作,整齐划一,GPU的架构就擅长这个;
但是MoE的核心是稀疏激活+动态路由:一个token进来,先过一个门控网络(Gating Network),再算出它应该去哪个专家。
就好像春运的时候,每个人要去不同的检票口,得先查票(门控),再拖着行李跑到对应的站台(专家)。
如果
这意味着,以后
对
因为像Groq、Etched、Cerebras这样的半导体企业,因为选择了专用路线,必须一直押注接下来行业的主流架构是什么。
押错了,之前的努力就全白搭,这很被动。
但
在顶层架构固定的情况下,剩下的,就是搞定各种工程、制造环节的苦活、累活,本质上没有太大的技术难度。
也正因如此,
这里提醒大家一个重要的细节:虽然
因此,在算法层面,
而这种软硬件协同的能力,实质上也对未来中国AI的发展路线,留下了一个潜在的弯道超车的机会。
如果回看,之前各路英伟达的挑战者,例如Groq、Etched、Cerebras等,你会发现,他们往往都将逆袭的关键,押在了单一的硬件性能上。
但问题是,英伟达真正强大的地方,从来不只是GPU本身,而是CUDA、软件生态和开发者体系形成的闭环。
所以,
过去几十年,人工智能的发展路径,本质上是算法适应硬件:研究者必须在GPU允许的计算模式内设计模型。
这也是
后者是在英伟达定义的游戏规则中,试图通过极致的局部优化,从巨头的阴影下分些残羹冷炙;
而
在这以后,不是模型适应芯片,而是算法怎么进化,硬件就跟着调整。
这条路初期虽然会很艰难,但它最大的价值,是让中国AI产业获得了参与定义下一代AI计算架构。
在之前的计算时代,CPU决定了计算规则;到后来的移动时代,ARM定义了终端生态;在这两次半导体革命中,中国都只是跟随者:
而在AI时代,真正决定未来的,可能是模型、算法与芯片之间的协同关系。
这也是为什么OpenAI、Google、Amazon、Meta纷纷自研芯片,因为它们意识到:只有将模型算法、芯片进行垂直整合,打造一种类似“AI界的特斯拉或SpaceX”,才可能突破原有产业链的“接口限制”。
因为当长上下文场景越来越多,AI Agent兴起,推理成为主要成本后,新的瓶颈就变成了数据怎么流动、专家怎么调度、KV Cache怎么管理、通信延迟怎么降低。
但它至少意味着,中国AI产业正在从亦趋亦步的模仿者,走向“尝试参与定义下一代计算平台”,成为创造未来的定义者。
这,或许才是这场AI芯片浪潮最值得关注的地方。
