NVIDIA, 레벨리언스 및 SK텔레콤, NVIDIA NVLink 퓨전을 통해 주권적 AI 인프라 발전을 위한 협력 발표
뉴스 요약:
NVIDIA, Rebellions 및 SK 텔레콤은 오늘 한국의 주권 있는 AI 인프라를 발전시키기 위한 협력을 발표했다. 이는 NVIDIA NVLink Fusion™를 사용하여 NVIDIA의 오픈 인프라 플랫폼, Rebellions의 한국 설계 AI 프로세서 및 SK 텔레콤의 AI 데이터 센터, 모델 및 서비스 역량을 결합하는 것을 목표로 한다.
협약의 일환으로 Rebellions은 NVLink Fusion을 사용하여 자신의 Rebel R200 신경 처리 단위(NPUs)를 NVIDIA 플랫폼에 연결하고, 랙 규모 시스템 개발을 위해 NVIDIA MGX™ 랙 아키텍처를 활용할 예정이다. SK 텔레콤은 자체 AI 데이터 센터 운영 전문성, 특유의 모델 및 서비스를 활용하여 이러한 시스템을 도입할 계획이다.
한국 과학기술정보통신부(MSIT)의 지원을 받으며, 이 협력은 한국의 언어, 산업 및 우선순위에 맞춘 인공지능(AI) 서비스를 지원하고, 한국 반도체 개발을 대규모로 인공지능을 제공하기 위해 필요한 시스템 및 운영 역량과 연결하려는 것을 목표로 합니다.
"한국은 인공지능 분야에서 세계적인 리더가 될 수 있는 인재, 기술 및 산업적 야망을 가지고 있다."는 NVIDIA의 설립자이자 CEO인 제이슨 황의 말이다. "주권형 인공지능은 국가가 자신의 언어, 문화 및 전문 지식을 지능으로 전환할 수 있는 힘을 제공합니다. NVLink Fusion을 통해 한국의 반도체 제조업체는 자체 설계 ASIC을 NVIDIA의 인공지능 공장 플랫폼에 연결할 수 있으며, NVIDIA의 컴퓨팅과 자신의 프로세서를 밀접하게 결합하여 인공지능 워크로드를 실행할 수 있습니다. MSIT, Rebellions 및 SK텔레콤과 함께 우리는 한국이 자체 지능을 생산하고 다음 산업 혁명을 주도할 수 있는 컴퓨팅 기반을 구축하고 있습니다."
"오늘 발표는 한국의 AI 실리콘과 모델을 글로벌 시스템 기술과 연결함으로써 주권적 AI에 새로운 장을 열어주는 전환점이 됩니다."라고 Rebellions의 공동 설립자이자 CEO인 손형윤은 말했다. "Rebellions의 특화된 실리콘과 시스템 설계를 NVIDIA의 NVLink Fusion, 고속 인터커넥트 및 랙 규모 설계 전문성, 그리고 SKT의 모델 및 데이터 센터 운영 역량과 통합함으로써, 우리는 규모 있는 전선 모델에 대해 저지연 및 에너지 효율적인 추론을 제공할 것입니다. 한국의 AI 실리콘 스타트업으로서 선도적인 위치에 있는 우리는 한국 기술이 글로벌 AI를 구동하는 핵심 축이 되도록 앞장서게 될 것입니다."
"이 협업은 글로벌 AI 인프라 기술과 한국의 AI 반도체를 결합함으로써 차세대 주권형 AI 인프라의 가능성을 검증하는 데 의미가 있다"고 SK텔레콤 회장이자 CEO인 정재훈은 말했다. "SKT의 AI 데이터센터, A.X K2를 포함한 특허 AI 모델, 그리고 '모두를 위한 AI' 프로젝트 하에 개발된 공개용 AI 서비스를 연결함으로써 우리는 전체 스택의 주권형 AI 경쟁력을 강화하고 한국의 AI 생태계 성장에 기여할 것이다."
NVIDIA의 오픈 인프라스트럭처 플랫폼을 통해 실리콘 혁신 확장 NVLink Fusion은 NVIDIA의 수직 통합형, 수평적으로 개방된 AI 플랫폼을 커스텀 XPUs로 확장합니다. 이는 반도체 제조업체가 전문적인 실리콘을 NVIDIA의 고대역폭, 저지연성 스케일업 네트워킹 및 기존 인프라 생태계와 결합할 수 있게 하여, 성능 향상, 배포 리스크 감소 및 시장 출시 시간 단축에 도움을 줍니다.
반역은 다음 세대 R200 NPU를 개발 중이며, 이는 다중트리리언 파라미터 믹스처오브엑스퍼트 모델을 포함한 최전선 모델을 사용하여 저지연 및 에너지 효율적인 추론을 최적화하고 있습니다. NVLink Fusion을 통해 Rebellions은 랙 내에서 NVIDIA NVLink™ 스케일업 네트워킹을 통해 R200 NPUs를 연결할 예정입니다.
NVIDIA MGX 랙 아키텍처 및 참조 설계는 시스템 개발을 지원할 것이며, MGX 생태계를 통해 Rebellions은 원래 설계 제조업체 및 부품 공급업체의 확립된 공급망에 액세스할 수 있습니다.
연결된 인프라, 모델 및 서비스 SK텔레콤은 AI 데이터 센터를 구축하고 운영하는 경험과 자체 기반 모델 및 공개용 AI 서비스를 보유하고 있습니다. AI 개발 및 주권적 인프라 분야에서 오랜 협력 관계를 유지해온 NVIDIA와의 협력을 바탕으로, SK텔레콤은 이러한 역량을 연결하고 표준화된 MGX 랙 아키텍처를 사용하여 AI 데이터 센터에 배포하여 전체 스택의 주권적 AI를 제공할 계획입니다.
MGX 랙 아키텍처는 GPU 및 NPU 시스템이 데이터 센터 설계 요소를 공유할 수 있는 기반을 제공하며, 이는 랙 피트피트, 전원 공급 및 냉각을 포함합니다. 이 접근 방식은 레벨리언의 프로세서 및 시스템 개발과 함께 인프라 계획을 지원할 수 있습니다.
이 회사들은 분리된 추론을 위한 접근 방식을 개발할 계획이며, AI 응답 생성의 각 단계를 각 작업에 가장 적합한 프로세서 아키텍처에 할당할 것입니다. 그들이 계획한 작업에는 NVIDIA GPU를 사용하여 사전 채우기(prefill)를 하고, 레벨리언의 NPU를 사용하여 디코딩(decode)을 수행하여 추론 처리량과 전력 효율성을 향상시키는 것이 포함됩니다.
SK 텔레콤은 이 인프라를 자체 기반 모델과 정부의 AI for All 프로젝트에 속한 공개 서비스와 연결하여, 완전한 스택 소버린 AI 전략을 추진할 계획이다.
NVLink Fusion을 통한 소버린 AI 인프라 지원 MSIT는 NVIDIA와 한국 NPU 기업 간 협력을 지원하고, 이는 Rebellions과 SK 텔레콤을 시작으로 한국의 소버린 AI 인프라를 강화하기 위해 진행되고 있다.
"NVIDIA와의 이 협력은 한국에서 개발된 NPU가 NVIDIA, 인공지능 컴퓨팅 분야의 글로벌 리더와 함께 NVLink Fusion을 통해 컴퓨팅 인프라 시장에 진입할 수 있게 되면서 중요한 단계를 이뤘다고 할 수 있다"고 배경훈 한국 부총리이자 과학기술정보통신부 장관은 말했다. "정부는 이 협력을 적극적으로 지원하여 구체적인 성과를 도출하고, 물리적 AI 및 GPU 공급 확보를 포함한 다양한 분야에서 NVIDIA와의 협력을 더욱 발전시키겠다"고 덧붙였다.
한국에서 개발된 프로세서와 모델을 NVIDIA 인프라와 SK텔레콤의 데이터 센터 전문성과 연결함으로써, 회사들은 한국의 공공 및 민간 부문에서 주권 있는 AI 서비스를 위한 기반을 마련하려고 한다.
가용성 반란의 R200 시스템은 2028에 배포 준비가 될 것으로 기대된다.