インテル、ラディックスアーキューブが協力して、インテルプラットフォーム上のオープンAI推論を推進
カリフォルニア州サンタクララ--(ビジネスワイヤー)--インテル社は、今日、RadixArkと協力して、SGLangと呼ばれるオープンソースのAI推論スタックを、開発者や企業が最高のAIモデルを展開し、AIアプリケーションをより効率的でコスト効果の高い方法で構築するのを支援することを目的として、インテルプラットフォーム向けに最適化することを発表しました。
「エンタープライズAIは、単なるパフォーマンスベンチマークから、フルシステムの本番展開を解決する段階へと進化しています」と、インテルデータセンターグループAI製品およびGTMの副社長であるアニル・ナンダリは述べた。「この協力により、開発者はDay-0の準備ができており、インテルのCPU、GPU、アクセラレーターアーキテクチャに直接最適化された高パフォーマンスの推論ソフトウェアを手に入れることが可能になります。オープンなアプローチにより、彼らは自身のニーズに最適なツール、フレームワーク、テクノロジーを選択する自由を得ます。」
なぜ重要なのか
企業は、AIモデルがより大きく複雑になるにつれて、多様でオープンな推論インフラが必要です。本番環境でAIを提供するには、すべてのプロンプトが正しい場所にルーティングされ、異なるワークロードに適した知性、適切なコンピューティング、適切な経済性が求められます。オープンな推論ランタイムは、多様な企業環境において、フルスタックデプロイを実用的で信頼性があり、経済的に持続可能にするために必要な接続組織を提供します。
開発者にとっての利点
この協力関係により、エンドユーザーは企業で検証されたインテルのハードウェア上でリーディングAIモデルを展開するための開発者選択肢が拡大されます。モデル構築者やソフトウェアエンジニアは、標準的でオープンなフレームワークやインターフェース上で構築およびイノベーションを図ることができ、インテルのコンピュート密度や組み込みのハードウェアアクセラレーション機能、インテルAdvanced Matrix Extensions(インテルAMX)を最大限に活用できます。開発者は、既存のデータセンターおよびクラウド容量を通じて、より迅速な製品化の時間、遅延の削減、および柔軟な展開オプションを得ることができます。
「私たちはインテルと協力しているが、これはオープンソースAI推論において重要な節目であり、SGLangの最適化をインテルのプラットフォームに直接行えるようにしています」と、RadixArkのCEOであるYing Shengは述べた。「深い最適化をコアフレームワークに統合することで、私たちは制約を排除し、開発者がオープンな基準と高性能の間で妥協しなくてもよいようにしています。私たちは、すべての構築者に先端的なAIインフラをオープンでアクセス可能にすることを使命としており、インテルの企業向けに設計されたアーキテクチャは、開発チームが生産的なAIワークロードをシームレスにスケールするために必要な柔軟性とコンピューティング密度を提供しています。」
生産向けAIのオープンなブループrint
ハードウェアとソフトウェアの最適化を統合することは、インテルがコミュニティソフトウェアに直接改善を貢献するアプローチを反映しており、それらを別々の展開意思決定として扱うのではなく、そうすることを意味します。人気のあるエンジンやフレームワークへのこれらのアップストリーム貢献は、ブレイクスルーとなるモデルをスケーラブルで本番運用に耐えるアプリケーションに変換するための高性能なパスを提供することを目的としており、柔軟性、選択肢、広範なアーキテクチャの自由を保持します。
インテルについて
インテル(NASDAQ: INTC)は、現代の世界を結びつけ、駆動する高度な半導体の設計および製造を行っています。毎日、私たちのエンジニアは、あらゆる顧客に新しい可能性をもたらすために、計算の未来を向上させ、形作る新しい技術を開発しています。詳しくは、intel.comでご確認ください。
© 2023 インテル社。インテル、インテルロゴ、およびその他のインテルの商標は、インテル社またはその子会社の登録商標です。他の名前やブランドは、それぞれの所有者の財産である場合があります。
ビジネスワイヤー.comで元のバージョンを参照してください: https://www.businesswire.com/news/home/20261112043035/en/
インテル メディア関係担当お問い合わせ先 PR@Intel.com
出典: インテル社
公開日 2023年11月 12、2026 • 3:30 パシフィック標準時