大規模ネットワーキング・ソリューションを手がけるドライブネッツは、AMD社とともに、高性能AIインフラを構築するための検証済み設計図を定義するエンドツーエンドのリファレンス・アーキテクチャを発表しました。この統合ソリューションは、フロントエンドおよびストレージのネットワーキングを含め、スケールアウトおよびスケール・アクロスの両アーキテクチャに対応するとのことです。
リファレンス・アーキテクチャの主な特徴と設計図
公開されたリファレンス・アーキテクチャには、大規模AI GPUクラスタの設計、導入、チューニングに関するシステムレベルのアプローチを示す導入ガイドが付属しています。コンピュートとネットワーキングの設計に加え、AMD ROCmソフトウェア・エコシステムやRCCLによる集合通信、ネットワーク・プラグイン、NIC、サーバー、トレーニングと推論の性能を最大化するためのシステムレベルのオーケストレーションを網羅しています。
- スケールアウトおよびスケール・アクロス両アーキテクチャに対応
- AMD ROCmソフトウェア・エコシステムとの完全統合
- システムレベルのオーケストレーションによる迅速な導入
両社によるジョイント・ソリューション全体像は、DriveNets ACO・OS・スイッチとAMD Pollara NIC・MI355x GPUでスタックを構成しています。
Ms.ガジェットスケール環境における検証済みベンチマーク結果
本リファレンス・アーキテクチャには、AMD Instinct MI355X GPUクラスタ上での推論、トレーニング、ネットワーク分離、ファブリックの回復性の各ワークロードにわたる包括的なベンチマークが含まれています。ベンチマーク結果によると、ドライブネッツのAIファブリックは、スループットで約5%の向上、Time to First Token（TTFT、初回トークンまでの時間）で10〜15%の短縮を実現しているとのことです。
| 項目 | スペック・測定結果 |
|---|---|
| スループット向上率 | 約5%（公開業界結果比較） |
| TTFT短縮率 | 10〜15% |
| トークン間レイテンシ | 20ミリ秒未満（マルチノード環境） |
※マルチノード環境におけるベンチマーク測定値となっています。回復性テストでは、同時に発生するRDMAトラフィック下でも安定した集合通信性能が実証されたと説明しています。
Ms.ガジェット最後までお読みいただきありがとうございました！
- 本記事の評価は当サイト独自のものです。
- 特段の表示が無い限り、商品の価格や情報などは記事執筆時点での情報です。
- この情報が誤っていても当サイトでは一切の責任を負いかねますのでご了承ください。
- 当サイトに記載された商品・サービス名は各社の商標です。
- 本記事で使用している画像は、メディアユーザーとしてPR TIMESより提供されたプレスリリース素材を利用しています。