贝博体育app下载安装:
谷歌与亚马逊在PyTorch Conference 2026上同步放出软件大招。谷歌开源TorchTPU,亚马逊推出TorchNeuron,方针直指英伟达CUDA生态最巩固的壁垒:模型搬迁本钱。
谷歌声称,超越98%的既有PyTorch模型,只需将设备设定改为“model.to(‘tpu’)”,便能在TPU上运转。谷歌验证了近5000个Hugging Face高频模型,其间4917个完结端到端验证,Tier-1无溃散通过率达98%。搬迁时刻紧缩至几分钟到数天。
功能层面,TPU已展现出竞争力。据悉,16颗谷歌Ironwood TPU(TPU v7)运转Kimi K3模型,敞开估测解码后,单用户生成速度达每秒709个token。平等装备的16块英伟达GB200调配vLLM,速度为每秒452个token,TPU抢先约57%。
需求指出的是,CUDA的护城河,历来不只是GPU算力,而是二十年堆集的东西链、开发者习气与搬迁本钱。当TorchTPU和TorchNeuron把“换芯片”的软件门槛从数月紧缩到几分钟,企业就有了按能效和价格从头挑选硬件的底气,而英伟达的生态黏性,正被软件东西一点点撬开。

