Google要把AI大模型「刻」进芯片里
8 小时前 / 阅读约8分钟
来源:36kr
Google正秘密研发Frozen v2服务器芯片,围绕Gemini结构提升运算效率,保留权重更新能力。主流大模型公司押注自研芯片以降低算力成本,Google拥有从模型到数据中心的完整链路。

经历了一轮人才流失和产品延期之后,Google 一项最早要到 2028 年才见分晓的秘密计划浮出水面。 

据 The Information 援引直接知情人士报道,Google 正在开发一款代号 Frozen v2 的服务器芯片,专门为 Gemini 服务。参与项目的员工称,按每瓦可生成的 token 数计算,它的能效可能达到 Google 最新 TPU 的 6—10 倍。 

Frozen 这个名字,正来自这个设想:把 Gemini 的部分结构永久「刻」进芯片。 

大模型芯片,要把大模型「刻」到芯片上

要理解 Frozen v2,得先回到传统芯片是怎么工作的。

1945 年,宾夕法尼亚大学莫尔学院开始设计 EDVAC,即电子离散变量自动计算机。它是早期存储程序计算机的代表。在那之前,电子计算机想改一道程序,往往要重新连接插线、拨动开关,经历一整套繁琐操作。

数学家约翰·冯·诺依曼当时是项目顾问,他在团队讨论的基础上写下《First Draft of a Report on the EDVAC》,系统描述了「存储程序」:程序指令和数据一起放进存储器,由处理器逐条读取并执行。

后来,以他命名的冯·诺依曼架构,成了通用计算机最重要的蓝图。

指令集是这张蓝图里的共同语言——软件用加法、读取或跳转等指令告诉处理器该做什么,处理器再依次取指、解码、执行。同一颗芯片只要换一套程序,就能从表格计算切换到游戏或视频剪辑。

过去八十年,计算机的通用性主要来自这种分工。

但通用就意味着低效。

大模型每生成一个 token,都要反复读取权重和中间数据,跑的无非是矩阵乘法、注意力等少数几种操作。通用处理器却必须保留服务无数程序的控制逻辑和数据通路,其中不少数据在大模型推理时根本用不上。

由于处理器与内存彼此分离,数据还得反复往返——这就导致,当运算速度超过数据读写速度时,芯片便撞上了「内存墙」。

过去几十年里,计算机行业一直在试图减少「冯·诺依曼架构」带来的影响,于是专为图形加速的 GPU 和专为智能加速 NPU/TPU 应运而生。GPU 用大量并行单元处理相似计算,NPU/TPU 再围绕神经网络的张量运算设计,但为了兼容多种模型,这些芯片在设计时仍保持了一定的通用性。

而 Google 决定用一种更颠覆的办法来解决这个问题——正在秘密研发的 Frozen v2 芯片将围绕 Gemini 的固定结构安排计算单元、存储位置和数据流,让硬件预先知道接下来大概率要做什么,进而极大提升运算效率。

Google 准备在芯片「刻」下  Gemini 的架构层。

一个模型大致可以拆解为架构和权重两大部分。架构规定信息如何流动,像一副骨架;权重则来自训练,决定模型如何给出回答。

据报道,Frozen v2 会固化更多架构信息,同时保留权重更新能力。芯片依然要执行指令、读取内存,只是部分计算路径已经提前确定。

Frozen 芯片项目由 Google 首席科学家 Jeff Dean 推动,作为 Google Brain 联合创始人,也是 TensorFlow 最初的主要设计者之一。过去二十多年里,他一直站在 Google 分布式计算和 AI 基础设施的交界处。

第一代 Frozen 芯片,也设想过把模型权重也固化进芯片,但代价是一颗芯片只能服务一个版本的 Gemini,等设计、流片、部署等硬件流程走完,对应的模型可能早已过时,这导致 Frozen 一度搁置。

而 Frozen v2 吸取了这个教训,保留权重更新能力。只要下一代 Gemini 沿用相近的底层架构,芯片就能继续服役。换言之,这也是 Google 将会长期押注 Gemini 的证据。

大模型公司,集体押注自研芯片

不久前,OpenAI 已经给出了「模型参与芯片设计」的现实案例。

2026 年 6 月,OpenAI 与 Broadcom 公布自研推理芯片 Jalapeño,团队根据 ChatGPT、Codex 和 API 的真实负载设计芯片与服务系统,OpenAI 的模型也被用来加速部分设计和优化。

这个项目从初始设计到流片只用了九个月,工程样片已经跑起模型负载,并计划 2026 年底开始部署。

Anthropic、DeepSeek 也都传出自研芯片的消息。尽管各家的专用程度不同,但方向基本一致:掌握模型的公司,正在把每天重复的计算规律交给硬件。

显然,我们已经进入模型定义芯片的时代。

为什么几乎所有的主流大模型公司,都在押注自研芯片?

答案不言自明,为了降低算力成本。

以 Google 公开可调用的旗舰模型 Gemini 3.1 Pro Preview 为例:20 万 token 以内,标准 API 价格是每百万输入 token 2 美元、每百万输出 token 12 美元。

假设一次较重的请求输入 5000 token、输出 1000 token,公开标价约 2.2 美分。同样的调用每天发生 1 亿次,就是每天 220 万美元,一年约 8 亿美元。

考虑到 Gemini 应用月活已经超过 9 亿,再少的算力支出,乘以近 10 亿规模的调用量,都是一笔天文数字——因此,如何降低算力费用,是所有大模型公司都要考虑的立命之本。

这场硬件下注,正发生在 Google AI 业务反复起落的当口。

2022 年 11 月,ChatGPT 横空出世。三周后,Google 管理层拉响「红色警报」,Sundar Pichai 亲自接管 AI 战略。那时的 Google 拥有 Transformer、搜索和庞大的数据中心,却被 OpenAI 拔得头筹,抢先定义了生成式 AI 入口。

三年后,局面一度翻转:Gemini 3 发布,Nano Banana 刷屏,Google 收复了不少失地,一度成为离 AGI 最近的科技巨头。

可最近几个月,Google 内部又发生剧烈动荡——

Gemini 联合负责人 Noam Shazeer 离职加入 OpenAI,John Jumper 与多名 Gemini 研究员转投 Anthropic。原定 6 月推出的 Gemini 3.5 Pro 被曝落后计划数月,编码能力没有达到内部目标,Alphabet 股价也因此接连重挫。

这些顶级研究员的离职,跟争取不到足够多的算力资源有关。The Information 称,算力短缺甚至曾迫使 Google Cloud 拒绝部分外部客户订单,即便在 Google 内部,算力资源也非常紧张。

但 Google 手里,还有一张对手难以复制的牌——从 Gemini 模型到 TPU 芯片,再到 Google Cloud 数据中心和庞大的 Google 生态产品,整条链路都掌握在同一家公司手里,模型与硬件当然也可以围绕同一套需求进行设计。

研究员可能被对手挖走,旗舰模型也可能延期,但 Google 积累十年的 TPU、编译器和数据中心体系,不会因为一次人才跳槽而消失,这是 AI 时代,Google 最大的底牌之一。

但风险同样巨大。

据悉,Frozen v2 芯片最早要到 2028 年才会部署,时至今日,Google 仍在决定该在芯片上固化多少信息。这也是 Frozen 这个名字的第二层意思:Google 准备冻结一部分 Gemini,来换取芯片级的高效率。

把大模型刻进芯片里,到底是不是最优解?或许要等到两年后才能见分晓。可留给 Gemini 追赶的时间,已经不多了。