Google élargit sa gamme de matériels dédiés à l'IA avec deux nouveaux puces spécialisées
Google renforce son jeu de conception de puces alors que l'entreprise cherche à réduire sa dépendance envers des puces fabriquées par d'autres entreprises pour son activité de calcul en nuage. Lundi, Google a dévoilé deux nouvelles variantes de ses unités de traitement tensorielle (TPU), des puces développées en interne destinées aux charges de travail d'intelligence artificielle, qui élargissent sa gamme de puces à d'autres cas d'utilisation : l'inférence confidentielle et une capacité de mémoire plus importante pour les charges de travail importantes.
Les nouvelles unités, TPU 8tx et TPU 8i Max, font partie de la huitième génération de puces présentée en avril de cette année, et s'appuient sur ce que ces puces offraient, à savoir une capacité d'inférence plus importante et un soutien aux besoins de formation importante.
TPU 8tx, conçu avec AMD, repose sur le processeur TPU 8t, et est spécifiquement orienté vers l'entraînement et l'exécution sécurisés des modèles d'intelligence artificielle, a déclaré Google dans un billet de blog. Le processeur « intègre directement la sécurité au niveau de la couche matérielle, en maintenant les données sensibles et les poids du modèle protégés et isolés même pendant leur utilisation active », a précisé l'entreprise.
Le processeur dispose également d'un réseau d'inférence personnalisé qui permet d'exécuter le raisonnement en même temps que l'entraînement, de sorte qu'il puisse être utilisé pour distiller et entraîner des petits modèles en temps réel. Cette capacité, selon Google, pourrait s'avérer utile dans les cas où une entreprise souhaite entraîner un modèle sur ses données propres sans avoir à déplacer les données entre les appareils.
En même temps, le TPU 8i Max combine en fait deux des puces TPU 8i axées sur l'inférence, que l'entreprise a lancées en avril, doublant ainsi la capacité mémoire, la puissance de traitement et la bande passante, mais dans un seul package. Le résultat est une puce qui permet aux modèles d'intelligence artificielle de traiter une plus grande gamme d'informations lors des requêtes.
Le lancement de la puce intervient alors que les hyperscalers comme Microsoft, Amazon, et même des laboratoires d'intelligence artificielle comme OpenAI et Anthropic travaillent sur leurs propres lignes de semi-conducteurs spécifiques à l'intelligence artificielle et de logiciels associés afin de réduire leur dépendance à la domination de Nvidia.
Les nouvelles arrivent également à un moment particulièrement vulnérable pour Nvidia, dont le PDG Jensen Huang a admis ce week-end avoir eu une relation avec quelqu'un supposé être un espion chinois.