テキスト生成を超え、ソフトウェアと対話するAIへ

2022年のChatGPT登場以来、AIは人間との対話能力を飛躍的に向上させました。しかし、TypeSafe AIは次のステップとして、AIが人間ではなくソフトウェアと直接対話する未来を見据えています。同社が2026年9月19日に発表した「Jev」は、このビジョンを具現化する新しいモデルとして注目されています。

JevはTransformerベースでありながら、大規模言語モデル（LLM）ではありません。テキストを生成する代わりに、状態と型付けされた質問を受け取り、コードが分岐できるような確信度付きの型付けされた決定を返します。

これは非常に興味深いアプローチです。従来のLLMがテキスト生成を主眼に置いているのに対し、Jevはコードからの利用を前提とした明確な構造化データを出力します。API経由で早期アクセスが可能とのこと（出典）。

「System One Model」とは何か？

TypeSafe AIが提唱する「System One Model」という名称は、心理学者ダニエル・カーネマンの提唱する「速い直感（システム1）」と「遅い熟考（システム2）」の概念から着想を得ています。TypeSafeチームは、既存のRLHF（人間からのフィードバックによる強化学習）で調整されたモデルが、人間の好みに合わせることでチャットボットとしては優れる一方、過信やモードドロップ（特定の入力に対して適切に反応できなくなる現象）といった欠点を抱え、結果的に人間が常に監視する必要があると考えています。

Jevはこれらの課題を克服するため、以下の新しいスタックを採用しています（ただし、具体的なアーキテクチャは未公開）。

  • 新しいアーキテクチャ
  • 並列サンプラー
  • RLCD (Reinforcement Learning for Calibrated Decisions)：調整された意思決定のための強化学習

個人的には、RLCDというアプローチが非常に気になります。単に正解を導くだけでなく、その「確からしさ」を評価する学習方法は、ビジネスアプリケーションにおいて信頼性を高める上で非常に重要だと感じます。

Jev APIの具体的な動作と活用例

Jevは単一のエンドポイント POST https://api.typesafe.ai/v1/systemone を介して機能します。リクエストボディには state（現在の状態）、model、そして questions のマップを含めます。ドキュメントには以下の3つの質問タイプが定義されています（出典）。

プリミティブ 質問内容 返されるデータ
Choice リストから1つのオプションを選択 choice, probabilities, confidence
Score 順序付けられたレベルに対して評価 score, probabilities, confidence
Noul このステートメントが真であるか？ noul, 0から1の確率

これらの質問は、同じ状態に対して並列かつ独立して実行されます。TypeSafe AIは、質問を追加しても応答時間がほとんど変わらないと主張しており、Choiceでは最大255のオプションをサポートするとのことです。Python SDK typesafe-sdk や JavaScript SDK @typesafe-ai/sdk が提供されており、pip install typesafe-sdk で簡単にインストールできます。

from typesafe_sdk import Choice, Noul, TypeSafeClient

client = TypeSafeClient()  # reads TYPESAFE_API_KEY
r = client.system_one(
    state=ticket,
    questions={
        "department": Choice(
            instructions="Which team should handle this",
            criteria={"billing": "Payment issues", "technical": "Bugs"},
        ),
        "is_urgent": Noul(instructions="The message conveys urgency"),
    },
)
print(r.answers["department"].choice, r.answers["is_urgent"].noul)

このコード例を見ると、チケットの状態（state=ticket）に基づいて、担当部署（department）と緊急度（is_urgent）を同時に判断させています。出力が明確な型で返ってくるため、その後のコードで if 文などの条件分岐が非常に書きやすいでしょう。これは既存のアプリケーションにAIを組み込む上で大きなメリットだと感じます。

ドキュメントが充実しているのも好感が持てますね。自分の開発中の個人プロダクトで、ユーザーからのフィードバックを自動分類するようなスクリプトに組み込んでみたいです。

Tom's Hardwareの記事（出典）によると、Jevは従来のLLMと比較して193倍高速で445倍安価であると主張されており、コストとパフォーマンスの面でも非常に魅力的です。これは、リアルタイム性が求められるシステムや、大量のリクエストを処理する環境において、大きなアドバンテージとなるのではないでしょうか。