구글, 두 개의 새로운 전용 칩으로 인공지능 하드웨어 포트폴리오 확대
구글은 클라우드 컴퓨팅 비즈니스에서 다른 회사가 만든 칩에 대한 의존도를 줄이려고 노력하면서 칩 제조 경쟁력을 높이고 있다. 구글은 월요일 인공지능(AI) 작업용으로 설계된 자체 개발 칩인 텐서 처리 단위(TPU)의 두 가지 새로운 변형을 공개했다. 이는 더 많은 사용 사례를 위한 칩 포트폴리오를 확장하는 것이며, 기밀 추론과 대규모 작업에 더 많은 메모리 용량을 제공한다.
새로운 단위인 TPU 8tx와 TPU 8i Max는 올해 4월에 발표된 회사의 8세대 칩의 일부이며, 이전 칩이 제공했던 것보다 더 많은 추론 용량과 대규모 훈련 요구 사항을 지원하는 것을 기반으로 한다.
TPU 8tx는 AMD와 함께 설계되었으며, TPU 8t 칩을 기반으로 하며, 구글은 블로그 게시물에서 민감한 데이터를 보호하고 고립시키면서도 활성 사용 중에도 보호할 수 있도록 하드웨어 레이어에 직접 보안을 구축한 것으로, 특히 기밀로 AI 모델을 훈련시키고 실행하는 데 특화되어 있다고 밝혔다. 회사는 "이 칩은 민감한 데이터와 모델 가중치를 보호하고 고립시키며, 활성 사용 중에도 보호할 수 있도록 하드웨어 레이어에 직접 보안을 구축하고 있다"고 작성했다.
이 칩에는 맞춤형 추론 네트워크가 있어 훈련과 함께 추론을 수행할 수 있어, 실시간으로 소형 모델을 정제하고 훈련시킬 수 있다. 구글에 따르면, 이 기능은 기업이 자체 데이터로 모델을 훈련시키고자 할 때 장치 간 데이터 이동 없이도 이를 수행할 수 있도록 도와줄 수 있다.
한편, TPU 8i Max은 4월에 출시한 인프런스 중심의 TPU 8i 칩 두 개를 기본적으로 결합하여 메모리 용량, 처리 능력 및 대역폭을 두 배로 늘렸지만, 단일 패키지 내에 있습니다. 그 결과, AI 모델이 쿼리 중에 더 넓은 범위의 정보를 처리할 수 있는 칩이 나왔습니다.
이 칩 출시는 마이크로소프트, 아마존, 그리고 오픈AI와 앤트로피케이트와 같은 AI 연구소와 같은 허페스케일러들이 Nvidia의 지배적 위치에 대한 의존도를 줄이기 위해 자체적인 AI 전용 반도체와 관련 소프트웨어를 개발하고 있는 상황에서 이루어졌습니다.
이 뉴스는 또한 Nvidia에게 특히 취약한 시점에 도달했으며, 이 회사의 CEO인 젠슨 황은 주말에 중국 스파이로 의심되는 사람과 외도를 인정했다.