当地时间11月6日,谷歌宣布,公司第七代自研TPU芯片Ironwood将在未来几周内正式发布。
据介绍,这款芯片“为最苛刻的工作负载量身打造”,在训练和推理方面的性能比上一代Trillium芯片提升了4倍多,是公司旗下迄今为止性能最强、能效最高的定制芯片。TPU(Tensor Processing Unit)是谷歌于2016年公开的自研AI专用集成芯片(ASIC),主要用于加速机器学习模型的训练和推理,尤其是基于谷歌机器学习开源平台TensorFlow的深度学习任务。今年4月,谷歌首次推出了下一代Ironwood芯片。
谷歌表示,Ironwood采用了先进的互联架构以应对数据密集型AI模型的需求,单个POD(AI超级计算机单元)可连接多达9216颗Ironwood芯片,并通过每秒9.6 Tb(太比特)的突破性ICI(芯片间互联网络)连接成一个“超级pod”,访问高达1.77 PB的共享高带宽内存(HBM),从而消除数据瓶颈。
目前,该芯片已经得到AI初创企业、谷歌合作伙伴Anthropic的采用。半个月前,Anthropic宣布与谷歌达成合作,将部署多达100万个谷歌的TPU芯片以训练旗下AI大模型Claude。此次扩展计划价值数百亿美元,预计算力容量将于2026年达到1GW(千兆瓦)级别。
澎湃新闻报道,虽然大多数大语言模型和AI工作负载依然依赖于英伟达的GPU,但谷歌的TPU属于定制芯片,在完成特定任务的性价比方面可能具有优势。同时,从性能上来看,Ironwood和前几代相比有了很大的进步,更加接近英伟达和AMD的最新芯片。一些分析师指出,谷歌TPU业务的价值可能被严重低估。研究机构D.A. Davidson的Gil Luria在几个月前表示,谷歌TPU已经缩小了与英伟达芯片的差距,成为后者的“最佳替代品”。他认为,如果将谷歌的TPU业务与其DeepMind AI研究实验室合并在一起,其价值可能高达9000亿美元。
