Thinking Machines Lab、9750億パラメータのオープンウェイトマルチモーダルAIモデル「Inkling」を発表

BigGo Finance アメリカ
概要
OpenAIの元CTOであるMira Murati氏が設立したThinking Machines Labが、初のオープンウェイトマルチモーダルAIモデル「Inkling」を発表しました。Inklingは9750億パラメータのMixture-of-Experts(MoE)アーキテクチャを採用し、テキストと画像の入力を処理するだけでなく、ユーザーの割り込みや表情をリアルタイムで認識する「インタラクションモデル」技術も搭載しています。45兆トークンで訓練されており、ベンチマーク性能は特に推論と視覚タスクにおいて、クローズドなフロンティアモデルと同等レベルに達しています。
詳細

主要成果

OpenAIの元最高技術責任者(CTO)であるMira Murati氏が立ち上げたスタートアップ、Thinking Machines Labは、初のオープンウェイトマルチモーダルAIモデル「Inkling」を発表しました。Inklingは、9750億パラメータを持つMixture-of-Experts(MoE)アーキテクチャを採用しており、テキストと画像の複合的な入力を処理する能力に加え、ユーザーのリアルタイムな割り込みや表情を認識する「インタラクションモデル」技術を特徴としています。

技術・モデル詳細

  • 大規模なMoEアーキテクチャ: Inklingは9750億という膨大なパラメータを持つMoEモデルであり、従来の密なモデルと比較して推論効率とスケーラビリティに優れています。MoEは、異なるサブモデル(エキスパート)が特定の入力データに対して専門的に処理を行うことで、より広範な知識とタスク遂行能力を実現します。
  • マルチモーダル能力: テキストと画像の両方のデータを理解し処理できるマルチモーダル性を備えており、多様な現実世界のシナリオに対応可能です。これにより、よりリッチな情報理解と生成が期待されます。
  • インタラクションモデル技術: ユーザーの意図を音声の割り込みや顔の表情からリアルタイムで読み取る「インタラクションモデル」は、より自然で人間らしい対話を実現するための重要な進歩です。これにより、AIが文脈をより深く理解し、適応的な応答を提供できるようになります。
  • 高い訓練データ量とベンチマーク性能: 45兆トークンという大規模なデータセットで訓練されており、特に推論能力と視覚タスクにおいて、既存のクローズドなフロンティアモデルに匹敵する、あるいはそれ以上のベンチマーク性能を示しています。モデルはApache 2.0ライセンスで公開され、広範な利用と研究を促進します。

背景・業界文脈

Mira Murati氏のOpenAIでの経験は、ChatGPTの成功に大きく貢献しました。彼女が設立したThinking Machines Labが「Inkling」をオープンウェイトでリリースしたことは、AI研究コミュニティにとって大きな意味を持ちます。近年、クローズドな高性能モデルが主流となる中で、オープンソースモデルがフロンティアレベルの性能に達することは、AIの民主化とイノベーションの加速に寄与すると期待されます。特に、リアルタイムインタラクション能力は、現在の生成AIが抱える課題の一つである自然な対話実現に向けた重要な一歩です。

今後の展望

Inklingのリリースは、AIモデルの開発競争においてオープンソースが再び重要な役割を果たす可能性を示唆しています。研究者や開発者は、このモデルを基盤として、新たなアプリケーションや技術革新を創出することが期待されます。インタラクションモデル技術は、将来のAIアシスタント、バーチャルヒューマン、ロボットにおける人間とのより深い協調作業の基盤となる可能性を秘めており、AIが社会に統合される方法を再定義するかもしれません。

元記事: https://finance.biggo.com/news/8f76d73f-e82c-4fd3-a69e-0843d2efc113

毎週の技術動向レポートを無料でお届け

各分野の分析レポートを読む価値があるかどうか一目で判断できるインフォグラフィックをメールで受け取れます。

📢 メールマガジンに無料登録(週刊・技術動向レポート)

ご登録いただくと、Troy-Technical から週刊で技術動向レポート(メールマガジン)をお届けします。

  • 取得したメールアドレス・選択分野は配信目的にのみ使用します。
  • 第三者へ提供することはありません。
  • 配信はいつでも解除できます(各メール下部のリンクから)。

詳しくはプライバシーポリシーをご覧ください。

登録は1分・いつでも解除できます

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

コメント

コメントする

目次