谷歌扩大其人工智能硬件产品组合,推出两款新专用芯片
谷歌正在提升其芯片制造能力,因为该公司希望减少对其云计算业务所使用的其他公司芯片的依赖。周一,谷歌推出了两种新型张量处理单元(TPU)芯片,这是该公司自主研发的芯片。
专为人工智能工作负载设计,这将扩大其芯片产品组合,以适应更多的使用场景:机密推理和更大的内存容量以处理大型工作负载。
新的单元TPU 8tx和TPU 8i Max是该公司今年4月推出的第八代芯片的一部分,它们在这些芯片所提供的基础上进行了提升,这些芯片提供了更大的推理能力以及对大型训练需求的支持。
TPU 8tx 是与 AMD 一起设计的,基于 TPU 8t 芯片,专为机密训练和运行人工智能模型而设计,谷歌在一篇博客文章中表示。该芯片“直接在硬件层构建安全性,保护敏感数据和模型权重”
“即使在使用过程中,HTS 也能得到保护和隔离,”该公司写道。
该芯片还拥有一个定制的推理网络,使其能够在进行推理的同时进行训练,因此可以用于实时提炼和训练小型模型。据谷歌称,这种能力可能在企业希望训练一个模型的情况下有所帮助,
在不将数据在设备之间移动的情况下,利用其专有数据进行模型训练。
同时,TPU 8i Max基本上结合了该公司4月份推出的两款面向推理的TPU 8i芯片,将内存容量、处理能力和带宽翻了一番,但仅采用单一封装。结果是一款芯片,使人工智能模型能够处理更大的范围
查询期间的信息范围。
此次芯片发布之际,超大规模科技公司如微软、亚马逊,以及人工智能实验室如OpenAI和Anthropic,正在开发自己的人工智能专用半导体及其配套软件,以减少对Nvidia主导地位的依赖。
这则新闻也恰逢英伟达处于特别脆弱的时刻,该公司首席执行官黄仁勋在周末承认与一名被指为中国间谍的人有婚外情。