Jeffとは？Jev互換で手元でも爆速動作する判断AIの仕組み・特徴・使い方

最近、海外の開発者コミュニティを中心に「Jeff」という新しいAIモデルが話題を集めています。

「Jeff」は、長い文章を作成するのではなく「状況を見て選択肢から1つを選ぶ」という判断だけに特化した、とても小さなAIモデルです。

この記事では、「名前は聞いたけれど何がすごいの？」「自分に関係はあるの？」という疑問を持つ方に向けて、専門知識がなくても全体像がつかめるよう分かりやすく解説します。

ひとことで言うと

Jeffは、「用意された選択肢の中から、どれが最も適切かを瞬時に選び出すための超小型AI」です。

身近な例でたとえるなら、「コールセンターの自動振り分け窓口」のようなものです。電話口でのお客さんの話をじっくり聞いて長い手紙を書き起こすのではなく、「返金の話ですね？ では担当部署のボタンを押します」と一瞬で判断して次の担当へ回す役割を果たします。

これまでの一般的な対話型AIと比べると、以下のような変化があります。

• 待ち時間がほぼゼロになる: 長い文章を一文字ずつ作る時間がないため、手元のPCでも一瞬（約20〜30ミリ秒）で判断が返ってきます。
• 巨大なクラウドサーバーが不要になる: モデルのサイズが非常に小さいため、高額なクラウド代を払わずに手元のパソコンや小さな機器で動かせます。
• アプリの自動化が簡単になる: AIの返答を「1番」「2番」といった明確なデータとして受け取れるため、システム同士の連携でエラーが起きにくくなります。

Jeffとは？誰が作った何なのか

Jeffは、オープンソースとして有志により開発された「意思決定モデル（判断に特化したAI）」です。先行して注目を集めていた「Jev」という商用モデルと同じリクエスト形式（データのやり取りの方法）で使える互換モデルとして公開されました。

※意思決定モデルとは: 人間と会話するための文章を作るのではなく、与えられた情報をもとに「A・B・Cのどの選択肢がふさわしいか」を数値や選択肢の形で決めるAIのことです。

詳しい背景やJevとの関係について、GIGAZINEのニュース記事などでも報じられています。また、判断に特化したAIの基礎概念についてはJevとは？文章を書かない「超高速な判断特化AI」の仕組みと話題の理由を解説でも詳しく解説しています。

ChatGPTなどの一般的なAIとの違い

私たちが普段よく目にするChatGPTなどの対話型AIと、Jeffの決定的な違いは「文章を作るかどうか」です。

一般的なAIは、ユーザーの質問に対して単語を1つずつ順番に予測しながら、人間らしい文章を組み立てていきます。そのため、どれだけ性能が高いサーバーを使っても、返信が完了するまでに数秒から十数秒の待ち時間が発生します。

これに対してJeffは、文章を一から作りません。「状況の説明」と「あらかじめ用意された複数の選択肢」を受け取ると、1回の計算で各選択肢の確率を一気に計算し、もっとも適した答えを返します。この仕組みのおかげで、圧倒的な処理スピードを実現しています。

なぜ話題になっているのか

Jeffがエンジニアの間で大きな話題となった理由は、主に3点あります。

1. 手元のパソコンで「まばたきより速く」動く

Jeffの処理時間は、ワークステーション向けのグラフィックボード（RTX PRO 6000）で約22ミリ秒、Mac（M4 Max）で約28ミリ秒と公表されています。人間のまばたき1回が約100〜300ミリ秒と言われているため、まばたきをするよりもはるかに速い速度で1つの判断を下せます。

これまでは、外部のクラウドAIに問い合わせて何秒も待つ必要があった作業が、手元のPC内だけで一瞬で終わるようになったことが驚きを与えています。

2. 個人の手元環境だけで学習・構築された

一般的な巨大AIモデルを作るには、数千万円から数十億円規模のクラウドサーバー費用がかかることが珍しくありません。しかし、GitHubのJeff公式リポジトリによると、JeffはクラウドGPUを一切使わず、手元のローカルワークステーション（RTX PRO 6000搭載PCやMacBookなど）だけで学習とテストが行われました。

学習時間も、パラメーターサイズ0.8B（約8億）のモデルで約2時間、2B（約20億）のモデルでも約3時間半と非常に短時間で済んでいます。「大企業でなくても、工夫次第で実用的な特化型モデルを自宅や研究室で作れる」という実例を示した点が高く評価されています。

3. 無料で誰でも使えるオープンソース

JeffのプログラムコードはMITライセンス、モデルのデータ（重み）はApache 2.0ライセンスで公開されています。商用・非商用を問わず自由度の高いライセンスで提供されているため、世界中の開発者が自分のサービスへ気軽に取り入れられる点も人気を後押ししています。

仕組み・主な特徴

公開資料から分かるJeffの主な特徴は以下の通りです。

1. ゼロショット分類に対応（事前の個別学習が不要）

Jeffは「ゼロショット分類」と呼ばれる技術に対応しています。

※ゼロショット分類とは: AIに対して「この分類パターンを覚えてね」と事前に個別学習させていなくても、その場で渡された選択肢の意味を理解して分類できる仕組みのことです。

たとえば、「カスタマーサポートへの問い合わせ内容をどの部署に振り分けるか」を決めたい場合、選択肢に「1: 料金について」「2: 配送事故」「3: アカウントの不具合」と文章で書いて渡すだけで、AIが文脈を読み取って正しい番号を選んでくれます。

2. 複数の小型ベースモデルから選択可能

Jeffは、既存のオープンな言語モデル（Qwen3.5やGemma 4）をもとに追加学習を行って作られています。用途や動作環境に合わせて複数のサイズが用意されています。

• Jeff-Qwen3.5-0.8B: パラメーター数約8億の非常に軽量なモデル。
• Jeff-Qwen3.5-2B: パラメーター数約20億のモデル。
• Jeff-Gemma4-E2B: Gemma 4をベースにしたモデル。

最新版（v1.1）のQwenベースモデルでは、最大254個の選択肢の中から1つを選ぶことができるよう拡張されています。

3. 3つの質問形式に対応

Jeffは単に複数の選択肢から1つを選ぶだけでなく、以下のような形式の判断にも対応しています。

• choice（選択）: 複数の候補の中から最適なものを1つ選ぶ。
• noul（Yes / No判断）: 「このユーザーは怒っているか？」などの質問にYes/Noの確率で答える。
• score（点数付け）: 指定した基準に基づいて数値を付ける。

複数の独立した質問を1回のリクエストにまとめて送り、同時に答えを受け取ることも可能です。

ベンチマークでの性能比較

Jeffは、公開されている5つの標準的なベンチマークテストや意思決定用ベンチマークで測定が行われています。GitHubのリポジトリで公開されている主なスコアは以下の通りです。

この結果から分かる通り、感情分析や情報の整合性チェック（ハルシネーション検知）といった「事実の照合・分類」においては、より巨大な本家Jevを上回るほどのスコアを出しています。

一方で、複雑な多段階の論理的思考が必要なテスト（BBHやJevBench hardなど）では、サイズの大きいJevに及びません。開発者も「このサイズの小型モデルに多段階の推論を期待すべきではない」と明記しており、向き・不向きがはっきり分かれています。

自分に関係ある？向いている人・向いていない人

「自分も使うことになるの？」と気になっている方に向けて、どのような場面で役立つのかを整理しました。

エンジニアではない一般の方へ

現時点では、Webブラウザを開いて直接Jeffと会話するような画面（チャットUIなど）は用意されていません。

そのため、一般の方が直接Jeffを操作する機会は基本的にありません。しかし、今後さまざまなWebサービスや社内ツールの「裏側のエンジン」として組み込まれる可能性が高く、「問い合わせ対応の自動化が早くなった」「ゲームの敵キャラクターの反応が自然になった」といった形で間接的に恩恵を受けることになります。

向いているケース（開発者向け）

• ユーザーの要望を高速にルーティングしたい: チャットボットやメールの問い合わせを、どの窓口へ送るか瞬時に振り分ける用途。
• 不適切な投稿のリアルタイム検知: コメント欄に投稿された文章が規約違反かどうかを、表示前に一瞬で判定する用途。
• ゲーム内のNPC（ノンプレイヤーキャラクター）の行動選択: 状況に応じてキャラクターが次の行動を素早く決定する用途。

向いていないケース

• 長い文章やレポートを書いてほしいとき: 文章を生成する機能自体がありません。
• 複雑な数式や何段階もの推理を解かせたいとき: 小型モデルであるため、深い思考を要する問題は得意ではありません。

使い方・始め方（触ってみたい人向け）

ここからは実際に手元のパソコンでモデルを動かしてみたい開発者向けの手順です。技術的な内容を含みますが、読み飛ばしても全体の理解には影響ありません。

JeffのモデルファイルはHugging Face上で公開されており、Python環境があれば手軽にローカルサーバーを起動できます。

1. インストールとモデルのダウンロード

パッケージ管理ツールの uv を使用して環境を構築します。NVIDIAのGPUを使う場合やMac（Apple Silicon）を使う場合でオプションが分かれています。

uv sync --no-default-groups
uv run --no-default-groups hf download mstrasser/Jeff-Qwen3.5-0.8B --local-dir checkpoints/jeff-0.8b

2. ローカルサーバーの起動

ダウンロードしたモデルを指定して、サーバーを立ち上げます。

NVIDIA製GPUやCPUで起動する場合:

JEFF_CHECKPOINT=checkpoints/jeff-0.8b PORT=8765 uv run --no-default-groups jeff-serve

Apple Silicon（Mac）でMLXを使って高速に起動する場合:

JEFF_BACKEND=mlx JEFF_CHECKPOINT=checkpoints/jeff-0.8b PORT=8765 uv run --no-default-groups --extra mac jeff-serve

3. リクエストの送信例

サーバーが起動したら、curl コマンドなどでJSON形式のリクエストを送信します。以下は「返金を求める顧客の問い合わせをどの部署へ振り分けるか」を判定させる例です。

curl -s localhost:8765/v1/systemone -H 'content-type: application/json' -d '{
  "model": "jeff-latest",
  "state": "Refund request: the customer says the parcel arrived crushed and wants their money back.",
  "questions": {
    "route": {"type": "choice", "instructions": "Which team should handle this?",
              "criteria": {"1": "Refunds and payments", "2": "Damaged or lost parcels", "3": "Account and login problems"}},
    "angry": {"type": "noul", "instructions": "Is the customer angry?"}
  }
}'

返答には、選ばれた選択肢だけでなく、各選択肢の確率や確信度が含まれます。

注意点・同名の別プロジェクトについて

Jeffを利用・調査する際には、以下の点に留意してください。

1. Jevの開発元（TypeSafe社）の公式製品ではない

JeffはJevと同じリクエスト形式を採用していますが、Jevを開発したTypeSafe AI社とは提携しておらず、公式の承認を受けた製品でもありません。オープンソースコミュニティの「AutoJev」という学習レシピをベースにした独立プロジェクトです。

2. 同名のコードチェックツール「Jeff」との混同に注意

GitHub上には、Alurith氏が開発したGo言語製のCLIツール「Jeff」という別のソフトウェアも存在します。こちらはJevのAPIを利用してプログラムのソースコードの品質や命名規約などをチェックするためのツールであり、今回紹介したAIモデル自体の「Jeff」とは異なりますので検索時はご注意ください。

まとめ

• 文章を書かずに選ぶだけ: Jeffは、状況に合わせて選択肢から答えを1つ選ぶ「判断」に特化したAIモデルです。
• 手元でも一瞬で動く: パソコンの環境でも約22〜28ミリ秒という驚異的な速さで結果を返します。
• 完全無料でオープン: 誰でも手元にダウンロードして自由に使えるオープンソースとして公開されています。
• 使い分けが重要: 単純な分類やルーティングは得意ですが、複雑な推論や長文作成には向いていません。

「AIに何でもやらせる」時代から、「判断だけを超高速・低コストで行う」という特化型の活用法へ。Jeffの登場は、実用的なAIシステムの新しい選択肢として注目を集めています。

よくある質問

プログラミングができない人でも直接使えますか？

いいえ、現時点では一般ユーザー向けの操作画面（チャット画面など）はありません。開発者が自分の作ったアプリやシステムの裏側に組み込んで使うためのAIモデルです。ただし、今後Jeffを組み込んだ便利なサービスが登場した際には、その恩恵を受けることができます。

無料で使うことはできますか？

はい、Jeffはオープンソースとして無償公開されています。コードはMITライセンス、モデルのデータ（重み）はApache 2.0ライセンスで配布されているため、条件を満たせば誰でも手元のPCにダウンロードして無料で動かすことができます。

ChatGPTのような文章を書くAIと何が違うのですか？

ChatGPTなどの一般的なAIは「人間のような文章を一から生成する」のが得意です。一方のJeffは「状況を読んで用意された選択肢から1つを選ぶ」という判断だけに特化しています。長い文章を作らないため、待ち時間がほとんどなく、手元のパソコンでも瞬時に動くのが大きな違いです。

同じ「Jeff」という名前の別のツールがあるようですが別物ですか？

はい、GitHub上にはJevを利用してコードを自動チェックするGo言語製のCLIツール「Jeff」も存在します。話題になっている意思決定AIモデルのJeffとは目的が異なる別プロジェクトです。