主要成果
Marvellは、同社のPhotonic Fabricアーキテクチャを拡張し、マルチラックAIシステムにおいてメモリを非集積化（disaggregated）し、プール化（pooled）するための光技術の活用を発表しました。この画期的なアプローチにより、従来の電気配線によるスケールアップシステムの物理的な到達距離と電力消費の課題を克服し、AIワークロードの効率を大幅に向上させることが可能となります。
技術・臨床詳細
- Photonic Fabric Memory Appliance: この新しいアプライアンスは、最大32テラバイト（TB）のDDR5メモリと約1TBのHBM（High Bandwidth Memory）を統合します。これにより、AIシステム内で前例のない規模のメモリプールを実現します。
- 光接続によるメモリプール化: Photonic Fabricは光相互接続を利用して、これらのメモリリソースを16台の異なるホスト間で共有可能なプールとして利用できるようにします。これにより、各AIアクセラレータが必要なメモリを動的に利用できるようになり、リソースの利用効率が最大化されます。
- 電気的制約の克服: 大規模AIシステムでは、メモリとプロセッサ間の電気信号伝送距離が長くなるにつれて、信号減衰と消費電力が増大します。Marvellの光接続アプローチは、これらの電気的なボトルネックを解消し、より広範囲かつ低電力でメモリを配置・アクセスすることを可能にします。
- AIシステムへの影響: メモリの非集積化とプール化は、AIモデルのトレーニングと推論において重要な意味を持ちます。特に、巨大なデータセットを扱う大規模なAIモデルでは、高速かつ大容量のメモリへのアクセスが性能を大きく左右するため、この技術はAIコンピューティングのブレークスルーを可能にします。
背景・業界文脈
AIワークロードの増大に伴い、HBM（High Bandwidth Memory）などの高性能メモリへの需要は劇的に増加しています。しかし、従来のシステムアーキテクチャでは、物理的な配線距離と消費電力の制約から、利用可能なメモリ容量とアクセシビリティが限定されていました。Marvellは、長年にわたりデータセンター向け相互接続ソリューションのリーダーとして活動しており、今回のPhotonic Fabricの拡張は、AIインフラの進化における主要な課題に対する同社の戦略的な回答です。光技術をメモリ接続に適用することは、AIシステムのアーキテクチャを根本から再定義する可能性を秘めています。
今後の展望
MarvellのPhotonic Fabric Memory Applianceは、AIデータセンターにおけるメモリ管理とアクセスの効率を飛躍的に向上させる可能性を秘めています。この技術が普及すれば、AIモデルの規模と複雑さがさらに増大しても、システム性能を維持しやすくなります。メモリのプール化は、リソースの柔軟な割り当てを可能にし、AIインフラの総所有コスト（TCO）の削減にも貢献すると期待されます。将来的には、このような光接続ベースのメモリシステムが、次世代AIスーパーコンピュータやハイパースケールクラウドの標準的な構成要素となるでしょう。
元記事: https://convergedigest.com/marvell-photonic-fabric-32tb-optical-memory-ai/
毎週の技術動向レポートを無料でお届け
各分野の分析レポートを読む価値があるかどうか一目で判断できるインフォグラフィックをメールで受け取れます。
📢 メールマガジンに無料登録（週刊・技術動向レポート）
ご登録いただくと、Troy-Technical から週刊で技術動向レポート（メールマガジン）をお届けします。
- 取得したメールアドレス・選択分野は配信目的にのみ使用します。
- 第三者へ提供することはありません。
- 配信はいつでも解除できます（各メール下部のリンクから）。
詳しくはプライバシーポリシーをご覧ください。
登録は1分・いつでも解除できます
コメント