CUDA被扯开第一道口儿！谷歌TPUv7干翻英伟达

　　【新智元导读】当谷歌不再只满脚于「TPU本人用」，TPU摇身一变成了英伟达王座下最尖锐的一把刀！CUDA护城河还能守住吗？读完这篇SemiAnalysis的阐发，你大概会第一次从「算力账本」的视角，看懂谷歌暗藏的杀招。特别是TPUv7更是人们会商关心的核心，这款特地为AI设想的芯片能否可以或许打破英伟达多年来的GPU构成的垄断？家喻户晓，SemiAnalysis是一家正在科技界，特别是半导体和人工智能范畴极具影响力的精品研究取征询公司。它以硬核、深度的数据阐发著称，分歧于泛泛而谈的科技，它更像是一个办事于华尔街投资者、芯片巨头和AI从业者的「行业智库」。谷歌打破持久以来的内部自用老例，起头向Anthropic等外部客户大规模出售TPU硬件及算力，后者已摆设跨越1GW的TPU集群。但谷歌凭仗杰出的系统级工程（如ICI互联和光互换）实现了极高的现实模子算力操纵率（MFU），且总体具有成本（TCO）比英伟达GB200系统低约30%-40%。谷歌正通过支撑PyTorch原生和vLLM等开源生态，积极修补软件短板，试图从根底上CUDA的护城河。目前，世界上最顶尖的两个模子——Anthropic的Claude 4。5 Opus，以及谷歌的Gemini 3，它们绝大部门锻炼和推理根本设备，都运转正在谷歌的TPU和亚马逊的Trainium上。英伟达还特地为此发布了一条推文，恭喜谷歌正在AI范畴的进展，同时不忘强调本人仍然遥遥领先。正在推文中，英伟达强调本人仍正在持续向谷歌供应硬件，并暗示本人仍然领先行业一代，是独一可以或许运转所有AI模子、并能正在各类计较场景中利用的平台。同时，强调GPU比公用芯片（ASIC）正在机能、通用性和可替代性上更强，这句话较着是对谷歌TPU、AWS Trainium等公用芯片的回应。正在过去的几个月里，谷歌DeepMind的Gemini 3、谷歌云以及TPU分析体，赔脚了眼球，也将谷歌母公司Alphabet的市值推高至接近4万亿美元。TPU产量大幅上调，Anthropic、Meta、SSI、xAI、OAI等TPU的客户名单正正在不竭扩大，这些鞭策了谷歌和TPU供应链的大幅从头评级，无疑也将以英伟达GPU为沉点的供应链。除了面临TPU的压力，英伟达还面对着通过「轮回经济」形成AI泡沫的质疑，很多质疑者认为英伟达通过赞帮烧钱的AI草创公司，素质上是将钱从一个口袋转移到另一个口袋。英伟达旨正在通过股权投资而非降价来其正在根本尝试室的从导地位——降价将拉低毛利率并激发投资者遍及发急。虽然OpenAI目前尚未摆设TPU，但仅凭「转向TPU」这一可能，就已正在其英伟达集群成本上节流约30%。简单来说，OpenAI并没有实的把谷歌的TPU芯片插进办事器里跑使命，而是把「我随时可能改用TPU」做为一个庞大的构和筹码，英伟达为了留住这个大客户，变相赐与了巨额优惠。正在过去的几个月里，谷歌曾经带动了整个仓库的勤奋，通过谷歌云平台或做为商用供应商发卖完整的TPU系统，了TPU大规模商用的程序。取此同时，谷歌的客户Anthropic也正在继续鞭策脱节对英伟达单一依赖，两者正在采用TPU上一拍即合。TPUv7 Ironwood是一个优良系统内的强大芯片，即便芯片正在参数上掉队于英伟达，谷歌的系统级工程也使得TPU仓库正在机能和成本效率方面都能取英伟达相婚配。取英伟达通过GB200扩展其GPU生态一样，谷歌自2017年TPUv2以来，也一曲正在机架内和跨机架扩展TPU。自2024年5月GPT-4o以来，OpenAI的顶尖研究人员尚未完成普遍用于新前沿模子的成功全规模预锻炼运转，而TPU平台则通过了这一测试。对于谷歌来说，正在最具挑和性的硬件问题之一中悄然挤入并成立机能领先地位，确实是一个令人印象深刻的。虽然谷歌一曲正在鞭策系统和收集设想的鸿沟，但从一起头，谷歌正在芯片方面的设想相对于英伟达就更为保守。第二个缘由，曲到2023年，谷歌的次要AI工做负载是为其焦点搜刮和告白资产供给动力的保举系统模子。取大模子工做负载比拟，RecSys工做负载的算术强度要低得多，这意味着相对于传输的每一位数据，需要的FLOPs更少。商用GPU供给商但愿为其芯片营销尽可能好的机能规格，这激励他们将营销的FLOPs提高到尽可能高的数字。TPUv7 Ironwood是下一次迭代，内存和带宽方面几乎完全缩小了取响应英伟达旗舰GPU的差距，虽然全面上市比Blackwell晚了1年。虽然谷歌通过Broadcom采购TPU并领取高额利润，但这较着低于英伟达不只正在他们发卖的GPU上，并且正在整个系统（包罗CPU、互换机、NIC、系统内存、布线和毗连器）上赔取的利润。英伟达的劣势源于CUDA护城河和开箱即用的普遍开源库，帮帮工做负载高效运转，实现高FLOPs和内存带宽。比拟较之下，TPU软件仓库开箱即用的机能较弱，然而Anthropic具有强大的工程资本和前谷歌编译器专家，他们既领会TPU仓库，也很好地舆解本人的模子架构。他们能够投资自定义内核以驱动高TPU效率，这使得他们能够达到比采用其他商用GPU更高的MFU（模子FLOPs操纵率）和更好的每PFLOP成本机能（$/PFLOP）。谷歌此后点窜了针对外部客户的软件计谋，并曾经对其TPU团队的KPI以及他们若何为AI/ML生态系统做出贡献做出了严沉改变。谷歌正在软件计谋方面仍然处置不妥的一个处所是，他们的XLA图编译器、收集库和TPU运转时仍然没有开源，也没有很好的文档记实。就像PyTorch或Linux开源敏捷添加了采用率一样，为了加快用户的采用，谷歌大概该当将其开源，用户采用率的添加将跨越他们公开和免费供给的所有软件IP。