NVIDIA、反叛与SK电信宣布合作,借助NVIDIA NVLink Fusion推进自主AI基础设施
新闻摘要:
NVIDIA、Rebellions 和 SK 电信今天宣布合作,以推进韩国自主人工智能基础设施的发展——利用 NVIDIA NVLink Fusion™ 将 NVIDIA 的开放基础设施平台、Rebellions 设计的韩国人工智能处理器和 SK 电信的资源汇聚在一起。
OM的AI数据中心、模型和服务能力。
作为协议的一部分,Rebellions 将使用 NVLink Fusion 将其 Rebel R200 神经处理单元(NPUs)连接到 NVIDIA 平台,并利用 NVIDIA MGX™ 机架架构进行机架规模系统的开发。SK Telecom 计划部署这些
系统,依托其在AI数据中心运营方面的专业知识、专有模型和服务。
在韩国科学与信息通信技术部(MSIT)的支持下,该合作旨在支持针对韩国语言、产业和优先事项量身定制的AI服务,将韩国的半导体研发与系统及运营能力需求连接起来,
以规模交付人工智能。
“韩国拥有成为人工智能世界领导者的才能、技术和工业雄心,”NVIDIA的创始人兼首席执行官黄仁勋表示。“主权人工智能使各国能够将其语言、文化和专业知识转化为智能。通过NVLink Fusion,”
韩国的芯片制造商可以将其定制的ASIC连接到NVIDIA的AI工厂平台,将他们的处理器与NVIDIA计算紧密耦合,以运行AI工作负载。与MSIT、Rebellions和SK电信一起,我们正在为韩国打造计算基础,以实现...
“推动其自身的智能,并为其下一次工业革命提供动力。”
“今天的声明标志着一个转折点,为主权AI开启了新篇章,通过将韩国的AI芯片和模型与全球系统技术相连接,”Rebellions的联合创始人兼首席执行官Sunghyun Park表示。“通过整合Rebellions专门设计的芯片和模型,以及全球系统技术,我们正在推动AI技术的边界。”
凭借与NVIDIA的NVLink Fusion、高速互连和机架规模设计专长,以及SKT在模型和数据中心运营方面的能力,我们将大规模地提供低延迟、高能效的前沿模型推理。作为
领先的韩国人工智能芯片初创公司,我们将率先行动,确立韩国技术作为全球人工智能核心支柱的地位。
“此次合作具有重要意义,因为它通过将全球人工智能基础设施技术与韩国人工智能芯片相结合,验证了下一代主权人工智能基础设施的潜力,”SK电信总裁兼首席执行官郑在勋表示。“通过连接”
SKT的人工智能数据中心、包括A.X K2在内的专有人工智能模型,以及在“全民人工智能”项目下开发的面向公众的人工智能服务,我们将加强我们的全栈自主人工智能竞争力,并为韩国人工智能生态系统的增长做出贡献。
通过NVIDIA的开放基础设施平台扩展硅创新能力。NVLink Fusion将NVIDIA垂直整合、水平开放的AI平台扩展至定制XPUs。它使芯片制造商能够将专用硅芯片与NVIDIA的高带宽、低延迟的互连技术相结合。
可扩展的网络和成熟的基础设施生态系统,有助于提升性能、降低部署风险并加快上市时间。
Rebellions正在开发其下一代R200 NPU,该NPU针对使用前沿模型的低延迟和高效能推理进行了优化,包括具有数千亿参数的专家混合模型。通过NVLink Fusion,Rebellions将把它的R200 NPU与...
通过NVIDIA NVLink™扩展网络进行机架内的扩展。
NVIDIA MGX机架架构和参考设计将支持系统的开发,而MGX生态系统使Rebellions能够接触到一个已建立的原始设计制造商和组件供应商供应链。
连接基础设施、模型和服务 韩国SK电信在建设并运营AI数据中心方面拥有丰富经验,同时拥有其专有的基础模型和面向公众的AI服务。在与NVIDIA长期合作开发AI的基础上
在自主基础设施方面,SK电信计划将这些能力进行连接,并利用标准化的MGX机架架构在其人工智能数据中心中部署,以提供全栈自主人工智能。
MGX机架架构为GPU和NPU系统提供了共享数据中心设计元素的基础,包括机架占地面积、电源供应和冷却系统。这种方法可以在Rebellions的处理器和系统开发的同时,支持基础设施规划。
发展。
这些公司计划开发一种分解推理的方法,将AI响应生成的不同阶段分配给最适合每项任务的处理器架构。他们计划的工作包括使用NVIDIA GPU进行预填充,以及使用Rebellion的NPU进行后续处理。
解码以提高推理吞吐量和能效。
SK电信计划将其基础设施与自有基础模型及面向公众的服务(包括政府“全民人工智能”项目下的服务)相连接,以推进其全栈自主人工智能战略。
用NVLink Fusion支持主权AI基础设施,MSIT正在支持NVIDIA与韩国NPU公司之间的合作,从Rebellions和SK电信开始,以加强韩国的主权AI基础设施。
“与NVIDIA的合作标志着一个重要的进展,通过NVLink Fusion,这使韩国开发的NPU能够与人工智能计算领域的全球领导者NVIDIA一同进入计算基础设施市场,”韩国副首相朴庆勋表示。
“政府将积极支持这项合作,以取得实际成果,并进一步推进与NVIDIA在包括物理AI在内的多个领域的合作。”
并确保GPU供应。
通过将韩国开发的处理器和模型与NVIDIA基础设施以及SK电信的数据中心专业知识相结合,这些公司旨在为韩国公共和私营部门建立自主人工智能服务的基础。
可用性“叛乱”R200系统预计将在2028投入部署。