グーグル、2つの専用チップを追加してAIハードウェア製品ラインナップを拡大
グーグルは、クラウドコンピューティング事業において他の企業が製造するチップに依存することを減らそうとしているため、チップ製造のゲームを進めています。月曜日、グーグルは、AIワークロードに使用される社内開発チップであるテンソル処理ユニット(TPU)の2つの新しいバリアントを発表しました。これらは、追加の使用ケースである機密推論および大規模ワークロード用のより多くのメモリ容量を広げるために設計されています。
新しいユニットであるTPU 8txとTPU 8i Maxは、今年4月に導入された同社の8世代目のチップの一部であり、それらのチップが提供したものを基にしています。その内容は、より多くの推論能力と大規模なトレーニング要件のサポートでした。
TPU 8txはAMDによって設計され、TPU 8tチップをベースにし、Googleがブログ記事で述べたように、AIモデルの機密性のあるトレーニングおよび実行に特化しています。同社は、「このチップはハードウェアレイヤーに直接セキュリティを構築し、使用中の状態でも機密データやモデルの重みを保護し、隔離する」と述べています。
このチップには、推論をトレーニングと同時に実行できるカスタム推論ネットワークも備えており、リアルタイムで小規模なモデルの知識蒸留およびトレーニングに使用できます。同社によると、この機能は、企業が独自のデータでモデルをトレーニングしたい場合に、データをデバイス間で移動することなく済むという点で役立つ可能性があります。
一方、TPU 8i Maxは、4月に同社が発表した2つの推論に焦点を当てたTPU 8iチップを基本的に組み合わせており、メモリ容量、処理能力、帯域幅を倍にしたが、単一のパッケージ内で行われている。その結果、AIモデルがクエリ中により広範な情報を処理できるチップが生まれた。
このチップの発売は、マイクロソフト、アマゾン、そしてオープンAIやアンソロピックなどのAIラボも、Nvidiaの支配的な地位への依存を減らすために、独自のAI専用半導体および関連ソフトウェアを開発していることからである。
このニュースは、Nvidiaにとって特に弱い立場にある時期にあたる。週末に、CEOのジェンソン・ホワンは、中国のスパイとされる人物との不倫を認めた。