英特尔与RadixArk合作,推动在英特尔平台上的开放AI推理发展
加利福尼亚州圣克拉拉市--(BUSINESS WIRE)--英特尔公司今天宣布与RadixArk合作,对SGLang这一开源AI推理堆栈进行优化,使其适用于英特尔平台,旨在帮助开发人员和企业部署领先的AI模型并构建AI。
更高效且更具成本效益地应用。
“企业人工智能正从孤立的性能基准测试转向解决完整的系统生产部署,”英特尔数据中心集团人工智能产品与市场推广副总裁Anil Nanduri表示。“此次合作确保开发者具备Day-0就绪能力,并且能够实现高性能的部署。
针对Intel CPU、GPU和加速器直接优化的性能推理软件,采用开放的方法,使他们能够自由选择最适合其需求的工具、框架和技术。”
为何重要
企业需要异构的、开放的推理基础设施,因为AI模型变得越来越大、越来越复杂。要实现AI的生产应用,需要将每个提示路由到正确的位置,将不同的工作负载与正确的智能匹配。
正确的计算和正确的经济。开放的推理运行时提供了必要的连接组织,使全栈部署在各种企业环境中变得实际、可靠且经济上可持续。
为开发者带来的价值
此次合作将开发者选择的范围扩展到可在经过企业验证的英特尔硬件上部署领先的AI模型。模型构建者和软件工程师可以在标准、开放的框架和接口上进行构建和创新,同时充分利用英特尔的计算能力。
密度和内置的硬件加速功能,包括英特尔高级矩阵扩展(Intel AMX)。开发人员可以更快地实现产品投产,降低延迟,并在现有的数据中心和云资源上获得灵活的部署选项。
“我们与英特尔的合作是开源AI推理的一个重要里程碑,使SGLang优化可以直接应用于英特尔的平台,”RadixArk首席执行官应升表示。“通过将深度优化引入核心框架,我们正在消除约束”
使开发者永远不必在开放标准和高性能之间做出妥协。我们致力于让前沿人工智能基础设施对每位开发者都开放且易于使用,而英特尔的企业级架构为开发团队提供了灵活性。
“他们需要的计算能力和计算密度,以无缝扩展生产AI工作负载。”
面向生产环境的AI开放蓝图
将硬件和软件优化相结合,体现了英特尔将改进直接贡献给社区软件的方法,而不是将它们视为独立的部署决策。这些对流行引擎和框架的上游贡献
ks旨在为将突破性模型转化为可扩展的、生产级应用提供高性能路径,同时保持灵活性、选择性和广泛的架构自由度。
关于英特尔
英特尔(纳斯达克:INTC)设计和制造先进的半导体,连接并为现代世界提供动力。每天,我们的工程师都在创造新技术,以提升并塑造计算的未来,为每一位客户提供新的可能性。
ve. 了解更多信息,请访问 intel.com。
© 英特尔公司。英特尔、英特尔标志以及其他英特尔标志是英特尔公司或其子公司的商标。其他名称和品牌可能是其他人的财产。
查看原始版本:https://www.businesswire.com/news/home/20261112043035/en/
英特尔媒体关系联系人PR@Intel.com
来源:英特尔公司
发布于2023年11月12日,2026 • 3:30 美国东部时间