谷歌擴展其人工智慧硬體組合,推出兩款新專用晶片
谷歌正在加強其晶片製造實力,因為該公司希望減少對其他公司為其雲計算業務提供的晶片的依賴。週一,谷歌推出了兩種新的張量處理單元(TPU)變體,這些是內部開發的晶片,專門用於人工智慧工作負載,擴展了其晶片組合以適應更多的使用情況:機密推理和更大的記憶體容量以處理大型工作負載。
這些新晶片分別為TPU 8tx和TPU 8i Max,是今年4月推出的公司第八代晶片的一部分,並在這些晶片所提供的功能基礎上進行了改進,這些功能包括更高的推理能力以及對大型訓練需求的支援。
TPU 8tx,由AMD設計,基於TPU 8t芯片,Google在一篇博客文章中表示,該芯片專門針對機密訓練和運行AI模型而設計。該公司寫道:“該芯片‘直接在硬體層中建立安全性,即使在積極使用期間也能保護並隔離敏感數據和模型權重’。”
該芯片還具有一個定制的推理網絡,使其能夠在進行推理的同時進行訓練,因此可以實時用於蒸餾和訓練小型模型。根據Google的說法,這種能力可能在公司希望在其專有數據上訓練模型,而無需在設備之間移動數據的情況下發揮作用。
同時,TPU 8i Max基本上結合了該公司於4月推出的兩款專為推理優化的TPU 8i芯片,將記憶體容量、處理能力和帶寬翻倍,但卻採用單一封裝。結果是一款讓AI模型在查詢時能夠處理更大範圍資訊的芯片。
此款芯片的推出正值超大規模數據中心(hyperscalers)如微軟、亞馬遜,甚至AI實驗室如OpenAI和Anthropic,都在開發自己的AI專用半導體及相關軟體,以減少對Nvidia主導地位的依賴。
這則新聞也恰逢Nvidia最脆弱的時刻,該公司首席執行官黃仁勳週末承認與一名被指為中國間諜的人有婚外情。