Google amplía su cartera de hardware de inteligencia artificial con dos nuevos chips especializados
Google está mejorando su juego en la fabricación de chips, ya que la empresa busca reducir su dependencia de chips fabricados por otras empresas para su negocio de computación en la nube. El lunes, Google presentó dos nuevas variantes de sus unidades de procesamiento de tensor (TPU, por sus siglas en inglés), chips desarrollados internamente destinados a cargas de trabajo de inteligencia artificial, que amplían su cartera de chips a nuevos casos de uso: inferencia confidencial y mayor capacidad de memoria para cargas de trabajo grandes.
Las nuevas unidades, TPU 8tx y TPU 8i Max, forman parte de la octava generación de chips presentada en abril de este año, y se basan en lo que ofrecieron esos chips, lo cual fue mayor capacidad de inferencia y soporte para requisitos de entrenamiento grandes.
TPU 8tx, diseñado con AMD, se basa en el chip TPU 8t, y está orientado específicamente para entrenar y ejecutar modelos de inteligencia artificial de forma confidencial, dijo Google en una entrada de blog. El chip "incorpora seguridad directamente en la capa de hardware, manteniendo los datos sensibles y los pesos del modelo protegidos e aislados incluso mientras se usan activamente", escribió la empresa.
El chip también cuenta con una red de inferencia personalizada que le permite ejecutar razonamiento junto con el entrenamiento, por lo que puede utilizarse para reducir y entrenar modelos pequeños en tiempo real. Esa capacidad, según Google, podría resultar útil en casos en los que una empresa quiera entrenar un modelo en sus datos propios sin tener que mover los datos entre dispositivos.
Mientras tanto, el TPU 8i Max combina básicamente dos de los chips TPU 8i orientados a la inferencia que la empresa lanzó en abril, duplicando la capacidad de memoria, la potencia de procesamiento y el ancho de banda, pero en un solo paquete. El resultado es un chip que permite a los modelos de inteligencia artificial manejar un mayor rango de información durante las consultas.
El lanzamiento del chip ocurre en un momento en que los hyperscalers como Microsoft, Amazon, e incluso laboratorios de inteligencia artificial como OpenAI y Anthropic están trabajando en sus propias líneas de semiconductores específicos para inteligencia artificial y software complementario con el fin de reducir su dependencia de la dominancia de Nvidia.
Las noticias también llegan en un momento particularmente vulnerable para Nvidia, cuyo CEO, Jensen Huang, admitió el fin de semana haber tenido una relación con alguien que se supone que es un espía chino.