钻石,拯救芯片
2 小时前 / 阅读约13分钟
来源:36kr
数据中心能耗受芯片散热制约,近结区热阻决定冷却成本。单晶金刚石导热片集成于封装,可降低结温8-10°C,在1GW设施中节省数亿美元电费并提升营收,需芯片制造商与运营商协同推进。

数据中心是科技领域建设中最具争议的项目之一。其能源消耗、建设成本以及选址问题,正受到监管机构、公用事业部门以及项目所在地社区的密切审视。在这些复杂的政治与社会考量之下,有一个事实是各方公认的:数据中心将电能转化为计算能力和热量,其中冷却过程约占其总能耗的 25% 到 40%。

然而,人们往往忽略了冷却需求实际上是在哪里被“设定”的——它并非由机房环境决定,而是由芯片封装本身所决定。

先进封装技术使得在更小的硅片面积上能够集中更高的功率。通过芯粒(Chiplet)、堆叠式高带宽内存(HBM)以及千瓦级多裸片(multi-die)模块,旗舰级加速器的单封装功耗已突破 1000 瓦,机架密度也超过了 100 千瓦;甚至在厂商的技术路线图中,已经出现了 200 千瓦级的机架方案。在热量接触到冷板、冷却回路或制冷机组之前,每一瓦产生的热量都必须先穿过芯片结(junction)上方最初的一毫米空间。如果热量在离开裸片(die)时未能被高效导出,那么后续的冷却系统也无法挽回这一损失。

这正是需要更换堆叠顶部材料的原因。单晶金刚石(其导热系数超过 2,000 W/m·K,约为铜的五倍)被用作与芯片尺寸匹配、且紧邻结区的散热扩展层;它能够直接在决定热预算的关键部位,有效降低热扩散阻力。在积极拥抱人工智能(AI)的同时,科技领军者们也清醒地意识到了一道阻碍其广泛应用的主要壁垒:芯片层面所产生的巨大热量与能耗,在数据中心规模下会被进一步放大。而解决这一问题的切入点,正是芯片本身。

最初的一毫米决定了预算

可以将从芯片结(junction)到环境(ambient)的散热路径视为一系列热阻的叠加:从芯片结到芯片表面,经过第一个热界面材料,进入均热板,再通过第二个热界面材料进入冷板,随后进入冷却液,最后通过设施循环回路将热量排出。过去十年间,业界在这一散热链条的末端(即靠近芯片的一侧)投入了大量精力,例如采用芯片直冷(direct-to-chip)冷板、浸没式冷却、机柜后门热交换器,以及提高设施冷却水的温度。然而,散热链条的顶端(即紧贴芯片表面的部分)却几乎没有发生什么变化。

偏偏在这一顶端,物理规律最为严苛。现代计算芯片并非均匀发热;计算模块(compute tiles)、SerDes 模块以及供电区域会产生局部热通量,其数值可达芯片平均热通量的数倍——在最严重的热点区域,热通量甚至高达每平方厘米数百瓦。导热系数约为 400 W/m·K 的铜制均热板,其横向导热速度不足以平摊这些热峰。结果,冷板所“看到”的是芯片热分布的高度集中映射;芯片结的温度上限取决于峰值热通量,而非平均热通量。

这些后果会波及整个设施。因热扩散阻抗而导致的每一度温升,都必须在下游环节付出代价来“抵消”——而这种下游补偿的成本极其高昂。这意味着需要设定更低的冷却液温度,导致冷水机组必须投入运行(无法利用自然冷却),增加泵和风扇的能耗,要求更小的换热温差(approach temperature),并需要配置规模更大的机械制冷系统。在设备层面,区区几度的温差所带来的效率损失,会悄无声息地在吉瓦(GW)级的基础设施规模中被放大并分摊。

此外,还有第二种更为直接的“代价”:降频(throttling)。芯片具备自我保护机制——当某个热点区域超过了温度阈值,芯片便会自动降低运行频率,即便此时芯片的平均温度看起来尚处于“舒适”范围内。在人工智能(AI)数据中心,降频绝不仅仅是一个热管理问题,更是一个直接影响营收的问题。因为那些本应生成却未能生成的“Token”(模型输出单元),是无法转化为商业收益的。

在芯片(Die)层面集成金刚石

金刚石导热片并非新概念,真正发生变化的是其可制造性。化学气相沉积(CVD)技术已实现了半导体级人造单晶金刚石的工业化生产;同时,封装集成所需的各种形态及金属化工艺也已成熟,并应用于当前的生产实践中。

实现这一应用的关键基础单元是与芯片尺寸相匹配的金刚石导热片。通过尺寸最大达 25 × 25 毫米的单晶金刚石——其面积足以覆盖光罩尺寸(reticle-class)的计算芯片,无需通过多块拼接,从而消除了导热路径中的接合缝隙。这些导热片表面经过 Ti/Pt/Au(钛/铂/金)金属化处理——这是一种标准的附着层-阻挡层-表面层结构,使得金刚石能够直接适配现有的芯片连接工艺:既可采用烧结银(sintered silver)以获得极低热阻的界面,也可根据装配流程需求,使用金锡(AuSn)、SAC(锡银铜)或铟(indium)合金进行回流焊。无需引入新的工具集或特殊的工艺模块,直接沿用产线上现有的芯片贴装及回流焊设备即可。

从架构上看,导热片被放置在最能发挥效能的位置:位于芯片与盖板(lid)之间的 TIM1(第一层热界面材料)层,作为盖板集成插件;或者在无盖板(lidless)设计中,直接置于冷板(cold plate)下方。热膨胀系数(CTE)问题可通过设计手段妥善解决——金刚石的热膨胀系数约为 1 ppm/K,比铜更接近硅;此外,针对连接层采用柔性接合设计(compliant bond-line engineering)已是行业标准做法,而非什么罕见工艺。

这种方案的优势在建模分析中得到了体现。在针对当前千瓦级加速器封装进行的计算流体动力学(CFD)仿真中(相关结果目前正由原始设备制造商(OEM)的热管理团队进行评估),在不对冷却回路做任何改动的前提下,在靠近结区(junction)处放置单晶金刚石导热片,可使外壳温度和结温降低 8–10°C。

8 到 10 摄氏度的降幅听起来似乎微不足道,但在数据中心规模下,其意义却非同凡响。

“一吉瓦”的算术题

行业预测显示,仅在2027年,美国就有约30吉瓦(GW)的新建数据中心容量处于建设中。为了理解“近结金刚石”(near-junction diamond)技术在这一规模下的意义,我们不妨以一座1吉瓦(1 GW)的人工智能(AI)设施为例进行分析。

假设该设施部署了约60万个加速器封装(包括GPU和定制ASIC)。在扣除主机CPU、网络设备和冷却系统所占用的功耗预算后,这些加速器与当今千瓦(kW)级的硬件规格相当。如果每个封装内集成一块金刚石散热片(按量产规模计算,每块成本约600美元),那么整座设施仅金刚石一项的物料成本就高达3.6亿美元。

需要注意的是,这项成本并不体现在超大规模云服务商(hyperscaler)的建设预算中。金刚石是在封装制造阶段被集成进去的——这是由芯片制造商在生产售价3万至5万美元的加速器时所做出的组件决策。在封装层面,金刚石仅使旗舰级产品的物料成本增加了1%至2%;即便将这部分成本完全转嫁到加速器的售价中,它也仅占超大规模云服务商建设一座1吉瓦设施总投入(约350亿至500亿美元)的1%至2%。

当这60万个加速器封装投入运行时,那8到10摄氏度的温差能带来什么收益呢?

首先是能耗方面。芯片结温(junction temperature)越低,漏电流就越小——漏电流会随温度下降而显著降低。此外,更低温的封装允许使用温度较高的冷却介质,从而将原本需要冷水机组(chiller)运行的时段转化为“自然冷却”(free-cooling)时段,并减少了水泵和风扇的能耗。

经模型测算,对于一座1吉瓦的设施,每年可节省约250至300吉瓦时(GWh)的电能——这相当于约2.8万个美国家庭的年用电量,即一座像帕洛阿尔托(Palo Alto)或格林威治(Greenwich)这样规模的城市中所有家庭的年用电总量。若按每千瓦时(kWh)0.10美元的电价计算,在设施10年的生命周期内,这相当于节省了约2.5亿美元的电费。采用更小型的冷却装置(冷水机组)和散热系统,不仅节省了冷却相关的资本支出(Capex),还在建设阶段额外节省了约 1.5 亿美元;各项成本节约总计约 4 亿美元。

在营收方面,收益更为可观。芯片在较低温度下运行时,性能受热节流(thermal throttling)的影响更小,老化速度也更慢——温度每降低 10°C,决定加速器使用寿命的“温度相关失效机制”所对应的安全裕度便可提升约一倍。稳定的时钟频率和更长的使用寿命,意味着在同样的资本投入下,能够产出更多可供销售的“Token”(计算产出单位);根据情景建模估算,在设施十年的生命周期内,由此带来的收益增量约为 10 亿美元。

综合来看:仅需 3.6 亿美元的“金刚石材料”投入,即可为运营商创造约 14 亿至 17 亿美元的价值。换算到每个封装单元,即投入 600 美元的组件成本,可创造超过 2300 美元的价值。

谁来买单,谁来获益

这种“买单者”与“获益者”的分离——即由芯片制造商承担金刚石材料的成本,而超大规模数据中心运营商(hyperscaler)却享受着由此带来的运行收益——正是许多极具前景的封装技术往往陷入停滞的症结所在。当组件制造商被要求自行消化成本,以便让下游环节节省开支时,这类技术往往难以存续;在热管理材料的发展史上,不乏因这种利益错位而夭折的优秀解决方案。

然而,先进封装技术已经改写了这些规则。芯片制造商不再仅仅销售裸硅片,而是提供通过封装实现差异化的集成系统——例如不同的内存容量层级、插槽式或模块化形态、液冷版本,以及经过分级筛选(binning)的频率规格。

散热能力已成为产品定义的一个关键维度。采用金刚石材料的产品型号(SKU)正是这一进阶路径上的新台阶:在相同的硅片基础上,通过更卓越的散热堆栈,实现更高的持续运行频率和更长的使用寿命,并根据其所释放的价值进行定价。

这种定价逻辑非常有利可图。如果一个成本为600美元的散热组件能为运营商带来超过2300美元的价值,那么制造商就可以通过溢价来提升自身的利润空间——而且该组件本身无需制造商进行额外的设计或流片(tape-out)——同时,运营商的总拥有成本(TCO)依然能获得显著的优化。金刚石材料实现了“双重回本”:既体现在芯片制造商的平均售价(ASP)中,又体现在运营商节省的能源开支里。更低的结温(junction temperature)也为制造商提供了坚实的产品背书——例如更长的额定使用寿命和更强的持续性能指标,这是那些缺乏散热余量的竞争对手所无法比拟的。

对于那些日益增多、开始自行设计加速器的超大规模数据中心运营商而言,上述问题便迎刃而解。当芯片设计方与数据中心运营方同属一家企业时,利益错位的问题便不复存在:金刚石材料直接纳入总拥有成本(TCO)模型中,而该封装方案所带来的全部价值,最终都归于承担成本的那一方。

封装架构师能获得什么

对于负责热管理架构的工程师而言,这些温控指标可以转化为更直观的性能与设计优势。热余量(Thermal headroom)可转化为频率余量:芯片裸片(die)能更长时间地维持在加速频率(boost clock)下运行,而不必因触及热点(hot-spot)限制而降频。它还能转化为可靠性裕度:电迁移、偏置温度不稳定性(BTI)以及互连疲劳等问题,都与温度密切相关。它更带来了设计自由度:如果封装散热速度提升至原来的五倍,就能支持更紧凑的芯片布局,放宽对热界面材料(TIM)的规格要求,甚至允许数据中心设施架构师提高冷却水温——这是降低冷却能耗最有效的手段。此外,它还能实现产品差异化:在持续性能和额定使用寿命方面形成规格优势,从而转化为市场竞争力。

这一议题的影响力已超出了数据中心的范畴。由于能源消耗问题,社区和公用事业部门对人工智能基础设施的扩张持抵制态度;因此,行业不能仅仅依靠增加发电量来应对,还必须致力于减少浪费。减少浪费最有效的切入点就是芯片本身——在芯片结温处节省一瓦功耗,就能在整个后端冷却链中节省数倍的能源。

封装盖之上的前沿领域

过去十年间,数据中心热工程领域已针对封装盖(package lid)之后的所有环节进行了优化,且成效显著——液冷技术已成为主流,设施能效也稳步提升。然而,芯片技术路线图却极其严苛:每一代产品都在更小的面积内集成了更高的功率,且热点问题愈发突出。下一阶段的能效提升,将不再依赖于更大尺寸的冷板,而是取决于材料创新——即改变芯片结温上方最初一毫米区域的物理特性,并由芯片制造商将这种物理特性转化为实际产品。

金刚石材料已不再罕见。如今,它可以通过反应器人工合成,利用标准工艺进行金属化处理,通过常规冶金方式进行封装连接,且已能以最高 25 × 25 毫米的规格投入量产。散热已成为封装设计中的核心制约因素。这正是封装技术“反击”的方式。