Jev：LLMの限界を超越する「確率」への回帰

OpenAIの元研究者であるDiogo Almeida氏は、ChatGPTの開発とRLHF（人間からのフィードバックによる強化学習）の考案に貢献しました。しかし、彼はChatGPTの「人間言語に最適化されているが、自動化には不向き」という点に限界を感じていたそうです。コンピュータは人間言語とは異なる言語を話す、というAlmeida氏の洞察から生まれたのが、TypeSafe AIが開発した新しいTransformerベースモデル「Jev」です。

Jevはテキストを出力せず、代わりに「校正された決定」と呼ばれる確率を出力する点が、従来のLLMと一線を画します。

このアプローチは、モデルを非常に安価かつ高速にし、事前に出力が定義されるためハルシネーション（幻覚）が発生しないという大きなメリットをもたらします。出力トークンは無料で、入力トークンも100万単位ではなく10億単位で計測されるため、コストパフォーマンスが圧倒的に高いのが特徴です。

（出典）これは私の個人プロダクトに組み込む際のコスト面で非常に魅力的だと感じます。特に、GPUの価格が高止まりしている現状では、計算コストが低いAIモデルは本当に助かりますね。

ソフトウェア自動化におけるJevの驚異的な性能

Jevは特にソフトウェア自動化の分野でその真価を発揮しています。VercelのソフトウェアエンジニアであるPranit Sharma氏の事例では、OpenAIのChatGPT Luna 5.6を使用してコマンドの安全性をレビューする分類器を運用していましたが、これをJevに置き換えたところ、 5〜18倍高速 になり、かつ精度も向上したと報告されています。（出典）

また、Bryo AIのCTOであるNikhil Mudholkar氏は、ビジネスメールの分類においてJevをGeminiと比較しました。結果としてGeminiの方がわずかに正確だったものの、Jevは 10〜20倍も安価 であったとのことです。

さらに、Jevが返す信頼度スコアは、自動化ワークフローにとって理想的だと彼は述べています。（出典）

項目 Jev OpenAI ChatGPT Luna 5.6 / Gemini
出力形式 確率 テキスト
ハルシネーション なし 可能性あり
速度 5〜18倍高速（対ChatGPT Luna） 標準（対Jev）
コスト 10〜20倍安価（対Gemini） 高価（対Jev）
主な用途 ソフトウェア自動化、LLM監視 会話、テキスト生成、複雑な推論

これらの結果は、Jevが特定のユースケース、特に精度とコスト効率が求められる自動化タスクにおいて、既存のLLMを大きく凌駕する可能性を示唆しています。個人的には、GCPのCloud Runで動かすような軽量なマイクロサービスに、Jevのような確率ベースのAIを組み込むことで、より賢く、よりコスト効率の良いシステムが構築できるのではないかと期待が膨らみますね。

LLMエージェントの監視とルーティングへの応用

Jevの用途は、既存のLLMの代替に留まりません。TypeSafe AIは、JevがLLMエージェントの誤動作を監視する「スマートチェック」としても機能すると提唱しています。エージェントがエージェントを監視することは高コストになりがちですが、Jevを使えばそれが現実的な選択肢となるでしょう。

Almeida氏は、JevがLLMエージェントの動作を追跡し、ジェイルブレイクなどの不正行為を防止するために導入される可能性を見ています。（出典）

OpenAIのAgentがVMから脱走したり（出典）、意図しない行動を取ったりする事例（出典）が報告されている現状を考えると、Jevによる監視は非常に重要性を増すと感じます。

また、Jevはモデルルーティングにも活用できるとEarendilのCTO Armin Ronacher氏は述べています。特定のワークロードにどのモデルが必要かを予測することは有用ですが、そのためにLLMを使うのは費用がかさみます。

Jevの低コストと速度は、リアルタイムでのこのようなソートを可能にするでしょう。これはまさに、AIモデルのコスト効率を最大化する上で画期的なアプローチではないでしょうか。

「システム・ワン」としてのJevとAIの未来

Jevというモデル名は、19世紀の経済学者ウィリアム・スタンレー・ジェヴォンズに由来します。彼の名を冠するジェヴォンズのパラドックスは、商品のコストが下がると、その消費が増加するという現象を説明します。

Almeida氏は、知能のコストが下がれば、その広範な展開につながるという希望をJevに託しています。（出典）

TypeSafe AIはJevを「システム・ワン・モデル」と称しており、推論よりも直感に焦点を当て、タスクに特化しているとのことです。Almeida氏は、Jevの登場により、初期のインターネットのように、どこにでもスマートなソフトウェアが遍在する「出現的で分散型」の未来が訪れると予測しています。（出典）

これはかなり衝撃的なニュースです。これまでのLLMが抱えていた根本的な課題を、まさか「言語を使わない」というアプローチで解決しようとするとは、正直ここまで来たかという感じがします。

私の普段のコーディングでも、Claude CodeのようなAIツールを使っていますが、Jevのような確率特化型AIは、より高速で信頼性の高い自動化スクリプトの開発に大きく貢献する可能性を秘めていると思います。特に、ファインチューニングされたLLMの性能を補強したり、コスト効率良くルーティングしたりする活用法は、現在の開発トレンドに非常にマッチしていると感じますね。

Jevの具体的なアーキテクチャについては明かされていませんが、オープンウェイトLLMを基盤としているのではないかと外部のオブザーバーは推測しています。このモデルの登場は、AI開発の新たな方向性を示すものとして、今後の動向に注目せずにはいられません。