対話AIから判断AIへ

いつもブログを読んでいただきありがとうございます！

今週は、文章を書かないAI「jev」について記載させていただきました。

入れないと思っていたら、登録するとWaiting Listに入るようで、利用できるようになりました。

利用するには、クレジットカード登録がありますのでご注意ください！

使ってみると、確かに判断するだけのAIで高速ということがわかります。
Playgroundでは、ホットドッグか？サンドイッチか？を判定することができるようです。

非常に軽快に動作すると感じました。

もちろん対話のAIは必要です。しかし、対話AIに至るまでにいくつもの判断AIが必要となり、ハーネスエンジニアリングを行う際は、判断を安価で高速にすることで、さらにAIの需要が増えるという、ジェボンズのパラドックスを狙っているのだと思います。

まだまだ、新しい考え方のAIが出てくるのは正直驚きましたが、判断AIも活用して行きましょう！

「対話」から「判断」へ：System 2からSystem 1への移行

従来のLLM（GPT-4やClaudeなど）は、入力されたプロンプトに対して1文字（トークン）ずつ次の確率を予測しながら文章を生成します。これは人間の脳で言えば、論理的に思考し文章を組み立てる「遅い思考（System 2）」に相当します。

一方、Jevが目指したのは「直感的に一瞬で判断を下す（System 1）」ことです。

従来のLLMが文章を逐次生成するのに対し、Jevは「並列評価（Parallel Evaluation）」を採用しています。

1回の推論パスで全ての候補確率を並列に計算し、判定を瞬時に完了させるため、以下の圧倒的なスペックを実現しています。

LLMでよくある「自信満々に間違える」現象を防ぐため、JevではRLCD（確率の校正）が施されています。AIが「確信度0.9」と出力した場合、実際の正答率が統計的に90%となるよう数学的に校正されているため、開発者はプログラムの閾値として安心して組み込むことができます。

今後のAIシステム開発の主役は、1つの巨大なLLMにすべてを任せる構造から、周辺の制御レイヤーを整える「ハーネスエンジニアリング（Harness Engineering）」へとシフトします。

Jevは定義されたスキーマ（型）の外側にある値をトークン予測できない構造的特性を持っています。そのため、形式的なハルシネーション（想定外のキーや壊れたJSON構文）は数学的にゼロです。

経済学における「ジェボンズのパラドックス」とは、「資源利用の効率化は消費量を減らすのではなく、むしろ爆発的に増大させる」という法則です。

知能のコストが1/400になり、応答速度が100倍になればどうなるでしょうか？
これまで「コストがかかる」「レスポンスが遅すぎる」という理由で断念していた、ソフトウェア内部の「あらゆる細かな条件分岐（曖昧なif文）」にAIの判断が組み込まれるようになります。

AIは「画面の向こうの特別な対話相手」から、ソフトウェアを構成する「最も安価で便利な電子部品」へと昇華したのです。

これまで、LLMの進化に驚かされていたのですが、jevが話題となり、判断のAIの可能性を理解する機会となりました。

現在LLMに無理やり文章で指示している「小さな判断」や、コードで複雑に書き殴っている「曖昧なルール」がある場合は、

Jevのような「判断特化型モデル」に任せることこそが、次世代の高速・低コスト・安全なAIエージェント構築の第一歩となります。

1つの対話AI（LLM）に対して、いくつもの判断AIが必要となるというのも納得です。jevを使ったばかりではありますが、判断AIの持つ可能性を十分に感じることができました。対話AI(LLM)だけでなく、判断のAIも活用して行きましょう！