主要成果
AIチップメーカーのGroqが、次世代チップのメモリ構成を従来のSRAM（スタティックRAM）から3D積層DRAM（3DS）へ移行することを検討している。これにより、高速なデータアクセスを維持しながら、オンチップメモリの容量を大幅に増強することを目指す。
技術・詳細
Groqが検討している3DS（3D Stacked Memory）は、TSV（シリコン貫通電極）を用いてDRAMダイを垂直に接続する技術である。同様にTSVを利用するHBM（高帯域幅メモリ）がデータ転送速度の最大化を優先するのに対し、3DSは従来のDRAMインターフェースを維持しつつ、メモリ容量の拡大を優先する点に特徴がある。
現行のNVIDIA向け「Groq 3 LPX」は、Vera Rubinプラットフォーム上の低遅延・大規模コンテキスト向けラックスケールAI推論アクセラレータである。その性能構成は以下の通りとなっている。
- 単一のGroq 3 LPU：500MBのSRAMを統合し、150TB/sのオンチップメモリ帯域幅を実現。
- LPXラック全体（256 LPU）：合計128GBのSRAMと、40PB/sの集約SRAM帯域幅を提供。
- 外部メモリ：各ラックに12TBのDDR5メモリを併設。
背景・業界の文脈
今回の設計変更の背景には、AIモデルの規模拡大とSRAMの容量限界という深刻な乖離がある。d-MatrixのCEOであるSid Sheth氏によれば、SRAMの容量は2年ごとに約10〜20%しか増加しないが、AIモデルのサイズは6〜9ヶ月ごとに倍増する可能性がある。このギャップにより、SRAMのみでメモリ容量と帯域幅の需要を満たすことが困難になっている。
製造面では、Samsung Foundryが平택（ピョンテク）施設にて4nmプロセスを用いてNVIDIAのGroq 3 LPUを生産している。Samsung側は次世代Groq LPUでのファウンドリ協力についてNVIDIAと協議していると述べており、一方でTSMCのC.C. Wei会長も、顧客と次世代LPUの開発に取り組んでいると言及している。
今後の展望
メモリ構成の刷新を模索しているのはGroqだけではない。同様にSRAMに大きく依存しているCerebrasも、3D積層DRAMの採用を追求している。Cerebrasは、将来の「CS-6」システムにおいて、ウェハースケールのSRAMおよび演算ユニットに積層DRAMを統合し、高速アクセスを維持したままメモリ容量を大幅に拡張する計画である。
毎週の技術動向レポートを無料でお届け
各分野の分析レポートを読む価値があるかどうか一目で判断できるインフォグラフィックをメールで受け取れます。
📢 メールマガジンに無料登録（週刊・技術動向レポート）
ご登録いただくと、Troy-Technical から週刊で技術動向レポート（メールマガジン）をお届けします。
- 取得したメールアドレス・選択分野は配信目的にのみ使用します。
- 第三者へ提供することはありません。
- 配信はいつでも解除できます（各メール下部のリンクから）。
詳しくはプライバシーポリシーをご覧ください。
登録は1分・いつでも解除できます
