Inkling 2 Miniの概要:ローカルAIを加速する新モデル

Thinking Machinesが「Inkling 2 Mini」を発表—ローカル実行可能な高性能LLMのイメージ画像

米Thinking Machines Labが2026年11月21日に発表した「Inkling 2 Mini」は、ラップトップなどのローカルデバイスで動作するよう最適化された、オープンウェイトのLLM(大規模言語モデル)です(Hacker News (API))。このモデルの最大の特徴は、「looped transformer」アーキテクチャを採用している点にあります。これは、モデルの中間層をトークンごとに3回繰り返し実行することで、少ないパラメータでより高度な推論を可能にする技術です(Hugging Face Blog)。

Inkling 2 Miniは、中間層を複数回再利用することで、少ないトークンでより適切な推論結果を導き出します。

総パラメータ数は26.4B、そのうちアクティブパラメータは3.4Bですが、ルーピングにより実質5.4Bの重みアクティベーションをトークンごとに実現しています(Hacker News (API))。これにより、DeepSWE v1.1やVals Index v2.2といった主要なベンチマークにおいて、100B未満のオープンウェイトモデルの中でトップクラスの性能を示しているとのことです。記憶容量自体はパラメータ数に依存するため、一般的な知識に関するベンチマークでは同規模のモデルと同等ですが、検索やツール利用を活用するタスクでは優れた能力を発揮します。

Looped Transformerがもたらす性能と監視可能性

Thinking Machinesが「Inkling 2 Mini」を発表—ローカル実行可能な高性能LLMのイメージ画像

Inkling 2 Miniが採用するルーピングアーキテクチャは、推論性能の向上だけでなく、モデルの「監視可能性(monitorability)」にも寄与すると報告されています。モデルが推論過程を明示的に記述する(Chain-of-Thought, CoT)ことなく、より長く推論を続けることができるため、開発者はCoTを読み解くことでモデルの動作をより深く理解できるとのことです(Hacker News (API))。

Thinking Machines Labは、Inkling 2 Miniと共に、ループ数を可変にできる研究用モデルも公開しています。この可変ループモデルの実験では、CoTなしでの時間的推論範囲が1パスで16秒から3パスで37秒に改善し、直列推論ベンチマークでは学習時の2倍にあたる10ループまで性能が向上し続けたと報告されています。

興味深いことに、ループ数を増やしてもエージェントの破壊的な行動は増加しなかったとのことです。これは、LLMの推論過程を制御し、信頼性を高める上で重要な示唆を与えていると感じます。

ローカル環境での実行と利用シーン

Inkling 2 Miniは、そのサイズからローカルデバイスでの実行を強く意識して設計されています。モデルの重みはNVFP4およびMXFP8の混合精度で訓練・デプロイされており、全体のメモリフットプリントは約20GBに抑えられています(Hacker News (API))。これにより、32GBメモリを搭載したMacBook Proのような民生用ラップトップやデスクトップAIコンピュータでも動作可能です(MarkTechPost)。

実際に開発チームは、フライト中にMacBook ProでオフラインでInkling 2 Miniを実行し、数分でプレイ可能なフライトシミュレーターを構築した実績を挙げています。これはかなり衝撃的なユースケースです。

このモデルは、特に以下のようなタスクで強みを発揮します(Hacker News (API)):

  • エージェントコーディング:DeepSWE v1.1やSWE-bench Pro v2のようなベンチマークで高いスコアを記録。
  • ツール利用:検索や外部ツールを活用するナレッジワークのベンチマークでも優位性を示しています。
  • 長期間にわたるエージェント作業:Inkling 2 Smallの強みを引き継いでいます。

オープンウェイトモデルとして公開されており、Tinker上で推論とカスタマイズが可能です。Hugging Face上ではApache 2.0ライセンスで提供されています(MarkTechPost)。

Inkling 2 Miniと競合モデルの比較

Inkling 2 Miniは、同規模のオープンウェイトモデルと比較しても優れたパフォーマンスを示しています。特にエージェントコーディング関連のベンチマークで優位に立っている点が注目されます。

モデル名 アクティブ / 総パラメータ数 (B) AA Index (v5.0) Vals Index (v2.2)
Inkling 2 Mini 5.4/26.4 20.1 (Best) 46.5% (Best)
Gemma 4 31B 30.7/30.7 4.4 -
Muse Glimmer 30.0/30.0 6.3 -
Qwen3.8-27B 27.0/27.0 20.1 (Best) -
Nemotron 3.5 Super VL 12.0/124.5 13.6 -

(Hacker News (API)を元に筆者作成)

エンジニア目線で見ると:ローカルAI時代の幕開けと開発体験の向上

Inkling 2 Miniの登場は、個人開発者やスタートアップのエンジニアにとって、ローカルAIの可能性を大きく広げる画期的なニュースだと感じます。これまでは高性能なLLMを動かすにはクラウド環境が必須でしたが、20GBという比較的コンパクトなメモリフットプリントで、MacBook Proでもエージェントコーディングが動くというのは正直、ここまで来たかという感じがします。

私の自宅PCはRTX 3090を積んでいるので、20GBであれば余裕で動作させられるでしょう。個人プロダクトに組み込むことで、オフラインでの推論やデータプライバシーの確保といったメリットを享受できるのではないでしょうか。

特に注目したいのは、ルーピングアーキテクチャによる効率的な推論と、それがもたらす「監視可能性」の向上です。エージェントが複雑なタスクを実行する際、その思考過程をより明確に追跡できることは、デバッグや信頼性向上の上で極めて重要です。

エージェントの暴走リスクを抑えつつ、推論能力を高められるというのは、開発者にとって非常に魅力的な特性だと考えます。Pythonバインディングがあれば、私の日々のスクリプトや個人プロダクトのロジックに組み込んで、より高度な自動化を実現してみたいと強く思います。

コストの観点でも、クラウドのGPUインスタンスを長時間稼働させる費用を考慮すると、手元のハードウェアでこれだけの性能を出せるのは大きなメリットです。初期投資はかかりますが、長期的に見れば開発コストの削減につながる可能性が高いでしょう。また、オフライン環境でも動作するという点は、特定のセキュリティ要件を持つプロジェクトや、ネットワーク環境が不安定な場所での作業において大きな強みになると感じます。

個人的には、このモデルを使って、AIを搭載したローカルエディタのようなものを開発してみたいという欲求が湧いてきます。これは間違いなく、開発者のワークフローを大きく変える可能性を秘めた技術ではないでしょうか。