主要成果
Marvellは、業界初となる102.4 Tbps(テラビット/秒)のAIスイッチを発表し、人工知能(AI)データセンターにおけるネットワーク帯域幅の新たな基準を確立しました。この画期的な製品は、AIおよび機械学習(ML)ワークロードの爆発的な増加に対応するため、現在の最高性能スイッチと比較して帯域幅を倍増させ、データ転送能力を劇的に向上させます。
技術・臨床詳細
この102.4 Tbps AIスイッチは、高度な半導体パッケージング技術とコパッケージドオプティクス(CPO)ソリューションを駆使して設計されています。CPOは、光部品と電子部品を同一パッケージ内に統合することで、データセンターの帯域幅とエネルギー効率の課題に対応します。これにより、従来の電気信号による伝送に伴う信号損失と消費電力を大幅に削減し、超高速かつ低遅延のデータ転送を実現します。スイッチのアーキテクチャは、大規模なGPUクラスターやHBM(高帯域幅メモリ)を搭載したAIアクセラレーター間の効率的な通信を可能にし、特に分散型AIモデルのトレーニングにおいて、データ移動のボトルネックを解消する上で極めて重要です。
背景・業界文脈
AIの進化は、データセンターのネットワークインフラに前例のない負荷をかけています。大規模なAIモデルは、膨大な量のデータをリアルタイムで処理し、GPU間で頻繁に通信を行うため、ネットワーク帯域幅がAIシステムの性能を制限する主要なボトルネックとなっています。既存の100Gbpsや200Gbpsイーサネットインフラでは、AIワークロードの要求を満たすことが困難になりつつあります。Marvellの102.4 Tbpsスイッチは、このギャップを埋めるための重要なステップであり、AIデータセンターの次世代スケーラビリティを可能にする基盤技術となります。CredoがDustPhotonicsを買収しCPOソリューションを強化しているように、業界全体で光通信と電子通信の融合が進んでいます。
今後の展望
Marvellの102.4 Tbps AIスイッチの導入は、AIデータセンターの設計と運用に革命をもたらすでしょう。この高帯域幅ソリューションは、大規模なAIモデルのトレーニング時間を短縮し、リアルタイムAI推論の能力を向上させます。また、エネルギー効率の向上は、データセンターの運用コスト削減と持続可能性の向上にも貢献します。この技術は、AIのさらなる普及と進化を加速し、半導体パッケージングおよび光インターコネクト技術のイノベーションを牽引する重要なマイルストーンとなることが期待されます。
元記事: https://advancedpackaging.news/article/124316/Marvell_unveils_102.4_Tbps_AI_switch

コメント