NVIDIA、Rebellions 和 SK 電信宣布合作以通過 NVIDIA NVLink 融合推進主權 AI 基礎設施
新聞摘要:
NVIDIA、Rebellions 和 SK Telecom 今天宣布合作,以推進韓國的自主人工智能基礎設施——使用 NVIDIA NVLink Fusion 註冊商標,將 NVIDIA 的開放基礎設施平台、Rebellions 設計的韓國人工智能處理器以及 SK Telecom 的人工智能數據中心、模型和服務能力結合起來。
根據協議,Rebellions 將使用 NVLink Fusion 將其 Rebel R200 神經處理單元(NPUs)連接到 NVIDIA 平台,並利用 NVIDIA MGX 註冊商標機架架構進行機架規模系統開發。SK Telecom 計劃部署這些系統,並利用其在人工智能數據中心運營方面的專業知識、專有模型和服務。
在韓國科學技術信息通信部(MSIT)的支持下,此合作旨在支持針對韓國語言、產業和優先事項量身訂製的人工智能服務,將韓國半導體開發與實現大規模人工智能所需的系統和運營能力相連接。
“韓國擁有成為人工智能世界領導者的才能、技術和產業雄心,”NVIDIA創辦人兼首席執行官黃仁勳表示。“主權人工智能讓各國能夠將其語言、文化和專業知識轉化為智能。通過NVLink Fusion,韓國的晶片製造商可以將其定制的ASIC晶片與NVIDIA的人工智能工廠平台相連,將其處理器與NVIDIA的計算資源緊密結合,以運行人工智能工作負載。與MSIT、Rebellions和SK電信合作,我們正在為韓國建立計算基礎設施,使其能夠自主產生智能,並推動下一次產業革命。”
“今天的聲明標誌著一個轉折點,為主權AI開啟了新篇章,通過將韓國的AI晶片和模型與全球系統技術相連接,”Rebellions的共同創辦人兼首席執行官Sunghyun Park表示。“通過將Rebellions專門設計的晶片和系統設計與NVIDIA的NVLink Fusion、高速互聯和機架規模設計專長,以及SKT的模型和數據中心運營能力相結合,我們將實現低延遲和高效能的前沿模型推理。作為一家領先的韓國AI晶片初創公司,我們將率先推動韓國技術成為全球人工智能的核心支柱。”
“這次合作具有意義,因為它通過將全球AI基礎設施技術與韓國AI半導體相結合,驗證了下一代主權AI基礎設施的潛力,”SK Telecom董事長兼首席執行官鄭在勳表示。“通過將SKT的AI數據中心、包括A.X K2在內的專有AI模型,以及在‘全民AI’項目下開發的面向公眾的AI服務相連接,我們將加強我們完整的主權AI競爭力,並促進韓國AI生態系統的發展。”
透過NVIDIA的開放基礎設施平台擴展硅創新技術
NVLink Fusion將NVIDIA垂直整合、水平開放的AI平台擴展至客製化XPUs。它使晶片製造商能夠將專業硅晶片與NVIDIA的高帶寬、低延遲的擴展網路及成熟的基礎設施生態系統結合,有助於提升性能、降低部署風險並加快上市時間。
叛亂公司正在開發其下一代 R200 NPU,該 NPU 經過優化,可使用前沿模型實現低延遲和節能的推理,包括具有多萬億參數的專家混合模型。通過 NVLink Fusion,叛亂公司將通過 NVIDIA NVLink™ 擴展網絡,在機架內連接其 R200 NPU。
NVIDIA MGX 機架架構和參考設計將支持系統的開發,而 MGX 生態系統將為叛亂公司提供接入已建立的原始設計製造商和元件供應商供應鏈的渠道。
連接基礎設施、模型和服務 SK Telecom 擁有建設和運營人工智能數據中心的經驗,同時擁有其專屬的基礎模型和面向公眾的人工智能服務。在與NVIDIA長期合作開發人工智能和主權基礎設施的基礎上,SK Telecom 計劃將這些能力進行連接,並使用標準化的MGX機架架構在其人工智能數據中心中進行部署,以提供完整的主權人工智能。
MGX機架架構為GPU和NPU系統提供了共享資料中心設計元件的基礎,包括機架佔地面積、電力供應和冷卻系統。這種方法可以與Rebellions的處理器和系統開發一起支持基礎設施規劃。
這些公司計劃開發一種分散式推理方法,將AI回應生成的不同階段分配給最適合該任務的處理器架構。他們計劃的工作包括使用NVIDIA GPU進行預填,以及使用Rebellions的NPU進行解碼,以提高推理吞吐量和電力效率。
SK Telecom計畫將此基礎設施與其專有基礎模型及面向公眾的服務相連接,包括政府「AI for All」計畫下的服務,以推進其完整的堆疊國有AI戰略。
透過NVLink Fusion支持國有AI基礎設施 MSIT正在支持NVIDIA與韓國NPU公司的合作,首先與Rebellions和SK Telecom合作,以加強韓國的國有AI基礎設施。
“與NVIDIA的合作標誌著一個重要的進步,因為通過NVLink Fusion,韓國開發的NPU將與AI計算領域的全球領導者NVIDIA一起進入計算基礎設施市場,”韓國副總理兼科學及信息通信技術部長裴慶鎬表示。“政府將積極支持此項合作,以實現具體成果,並進一步推進與NVIDIA在包括實體AI和確保GPU供應在內的各個領域的合作。”
透過將韓國開發的處理器和模型與NVIDIA基礎設施以及SK電信的數據中心專業技術相結合,這些公司旨在為韓國公共和私人部門建立自主AI服務的基礎。
Availability Rebellions的R200系統預計將在2028準備好進行部署。