LFM3:専門的知能を狙う新世代マルチモーダルモデル
米Liquid AIは2026年10月28日、新たな基盤モデルファミリー「LFM3」を発表しました。これは、テキスト、ビジョン、オーディオ、オムニ(全方位)、意思決定といった複数のモダリティをサポートするマルチモーダルモデル群です。特に専門的なタスクに特化した「専門的知能」を実現することを目指しており、約20億パラメータのレンジで提供されます。
LFM3は、テキスト、ビジョン、オーディオ、オムニ、意思決定の各モデルを、単一の共有バックボーン上で統合したマルチモーダルな設計が特徴です。
LFM3は、新しいハイブリッドアーキテクチャと22兆トークンにも及ぶ事前学習データに基づいて構築されています。これにより、前世代のLFM2と比較して表現力が大幅に向上しつつも、効率性を維持している点が注目されます。モデルは小さく高速であるため、エッジデバイスでのローカル実行やファインチューニングに適しており、特定のタスクにおける信頼性の高いエキスパートとなる可能性を秘めていると感じます(Hacker News (API))。
エージェントユースケースとエッジ最適化に向けた新アーキテクチャ
LFM3のアーキテクチャは、エージェントユースケース向けに再設計されました。エージェントは、パラメータあたりの高い能力と、長いコンテキストにおける高速な推論が求められます。LFM2で導入された短畳み込みとアテンションのハイブリッド構造は維持しつつ、LFM3ではハードウェアインザループの対象デバイスを大幅に拡張し、多様なエッジデバイスでの最適化を進めています。
LFM3の最適化対象デバイスは以下の通りです(Hacker News (API))。
- スマートフォン: Samsung Galaxy S26 Ultra、OnePlus 15
- シングルボードコンピューター: Raspberry Pi 5
- ノートPC: Apple M4 Max、AMD Ryzen AI
- クラウドCPU: Arm、x86
- その他: GPU、Qualcomm Hexagon NPU
また、LFM3では、短畳み込み、スライディングウィンドウアテンション(SWA)、グローバルアテンションの3つのオペレータを組み合わせた「Tri-hybrid layer mix」を採用しています。これにより、長いコンテキストでもパフォーマンスを損なわずに能力を向上させているようです。
| 項目 | LFM2 | LFM3 |
|---|---|---|
| アーキテクチャ | 短畳み込み + アテンション | 短畳み込み + SWA + グローバルアテンション |
| コンテキスト長 | 短いコンテキスト向け | 長いコンテキスト向け(最大256Kトークン) |
| パラメータ | 1.2B | 1.7B(2Bレンジ) |
| 辞書サイズ | 不明 | 128K(非ラテン文字効率化) |
| 事前学習トークン数 | 不明 | 22T |
オープンウェイトモデルと多様なモダリティへの対応
LFM3のベースモデルとポストトレーニングモデルは、オープンウェイトとしてHugging Face、Liquid AI Playground、そしてLiquid AI APIを通じて利用可能です。開発者は、これらのモデルをローカルで実行し、自身のデータでファインチューニングできるとされています。Hugging Faceのブログでは、単一のGPUでファインチューニング可能であると述べられています(Hugging Face Blog)。
LFM3モデルファミリーはオープンウェイトであり、Hugging Faceなどで公開されているため、開発者はローカル環境でのファインチューニングが可能です。
最初のLFM3リリースには、1.7Bベースバックボーンから派生した約2Bパラメータの6種類のモデルが含まれています。これらは、テキスト、ビジョン、オーディオ、オムニの異なる入力モダリティをカバーし、さらに2つの意思決定モデルも含まれています。ビジョンモデルには動画入力もサポートされるとのことです(Hugging Face Blog)。
エンジニア目線で見ると:エッジAIの可能性とローカル環境での活用
LFM3は、パラメータ数が約20億と比較的コンパクトでありながら、高性能なマルチモーダル対応を実現している点が非常に魅力的だと感じます。特に、スマートフォンやRaspberry Pi 5といったエッジデバイスでの動作に注力している点は、今後のローカルLLMやエージェント開発にとって大きなブレイクスルーになるのではないでしょうか。
GCPのCloud RunやCloud Functionsのようなサーバーレス環境で推論を実行する場合、モデルサイズが小さいことは起動時間の短縮やコスト削減に直結します。LFM3であれば、比較的小規模なアプリケーションでも高機能なAIを組み込みやすくなるかもしれません。
また、Pythonバインディングが提供されれば、私の個人プロダクトでも画像や音声入力を伴うエージェント機能の実装に積極的に組み込んでみたいと考えます。ドキュメントが充実しているのも好感が持てますね。
しかし、実際にエッジデバイスでどの程度の推論速度と精度が出るのか、またファインチューニングの際のデータ量や計算リソース要件など、詳細なベンチマークはまだ不明確な部分が多いです。特に、日本の為替レートが不安定な中、海外製GPUや高性能な自作PCパーツへの投資は慎重にならざるを得ません。
コストを抑えつつ、手元のRTX 3090搭載PCでどこまで実用的なファインチューニングができるか、ぜひ試してみたいところです。セキュリティ面でも、オープンウェイトモデルの採用は柔軟性をもたらしますが、同時に責任も伴うため、十分な検証が必須となるでしょう。