Kevとは?文章を作らず「判断の確率」を返す新AIの仕組みと使い方

Kevとは AIトレンド

最近、海外の技術コミュニティを中心に「Kev」という新しいAIの名前が話題を集めています。

Kevは、ChatGPTのように長文を書くのではなく、「この問い合わせはどの部署に送るべきか」「緊急の対応が必要か」といった判断を、確率の数字で素早く正確に返す新しいタイプのAIモデルです。

この記事では、プログラミングをしない方でも全体像が掴めるよう、Kevとは何なのか、これまでのAIと何が違うのか、そして何がすごいのかを分かりやすく解説します。

ひとことで言うと何?

Kevは、「文章を読み込んで、いくつもの質問に対する答えの確率をまとめて判定するためのAI」です。

身近なたとえで言うと、「超早口で長文のお返事を書いてくれる相談員」ではなく、「書類をひと目見て、複数のチェックボックスに手早く確実な確率で印をつけてくれる仕分けのスペシャリスト」のような存在です。

Kevの登場によって、これまでのAI活用と比べて次のような変化が生まれます。

  • AIの「自信のなさ」や「迷い」が数字で正確に分かる: 「たぶん大丈夫です」という文章ではなく、「OKの確率が91%、キャンセルの確率が9%」のように正確な比率で返ってきます。
  • 待ち時間が短く、無駄なパソコンの計算を減らせる: 1文字ずつ文章を組み立てる時間をまるごとカットできるため、素早い判断が可能です。
  • 1つの書類に対して複数の質問を同時に判定できる: 「どの部署宛てか?」「怒っているか?」「急ぎか?」を同時に別々に調べられます。

「Kev」とは?ChatGPTなどの普通のAIと何が違う?

Kevは、開発者のJared Palmer氏らが公開した軽量な意思決定用モデルファミリーです。オープンなAIモデルである「Qwen3.5」をベースに構築されています。

先行して発表されていた「Jev」という非公開モデルの設計思想(詳しくはJev’s Architecture Unmaskedで解説されています)をもとに、誰でも自分で動かしたり追加学習させたりできるように作られたのがKevです。

私たちが普段使っているChatGPTなどの一般的な対話型AI(大規模言語モデル)とKevには、根本的な違いがあります。

項目 ChatGPTなどの一般的な文章生成AI Kev :— :— :—
主な目的 人間のような自然な文章を作ること 状況に応じた判断の確率を出すこと
出力のかたち 1文字ずつつなげた「文章」 選択肢ごとの「確率の数値」
確信度の信ぴょう性 文章として「自信度90%」と書くだけ(根拠が薄い) モデルの内部状態から直接確率を計算
複数項目の判定 1問ずつ順番に文章で答える 同じ本文をもとに複数の質問を並行処理

普通のAIに「この問い合わせの緊急度を教えて」と頼むと、「緊急度は90%です」という文章を出力してくれます。しかし、その「90%」という言葉は、AIが単語の並びとしてもっともらしい言葉を選んで書いたに過ぎず、本当に90%の正しさがあるとは限りません。

一方のKevは、文章を組み立てる作業をせず、AIの頭の中(内部の数値表現)から直接「緊急度が高い確率: 0.93(93%)」といった数値を読み出します。そのため、システムの自動化に安心して使える信頼性の高い確率が得られます。

なぜ今エンジニアの間で話題になっているのか

Kevが技術者の間で大きな注目を集めている背景には、2つの理由があります。

1つ目は、「AIによる自動化システムで一番欲しかった機能に特化しているから」です。
企業の現場では、AIに小説やチャットの返信を書かせたい場面ばかりではありません。「届いたメールを営業部とサポート部のどちらに回すか」「不正な取引の疑いがあるか」といった仕分け作業こそが自動化の現場で最も求められています。Kevはまさにこの仕分け作業に特化しています。

2つ目は、「謎に包まれていた最先端の仕組みを、誰でも動かせるオープンな形で再現したから」です。
もともとTypeSafe社が提供する「Jev」というモデルが同様の仕組みで注目されていましたが、その中身や重みデータは非公開でした。そこで、その仕組みを解き明かして一般公開されたのがKevです。開発プラットフォームのGitHub(jaredpalmer/kev リポジトリ)や海外の掲示板Hacker Newsでも数千以上の高い反響を集めました。

Kevの仕組みと主な特徴

Kevがどのような仕組みで動いているのか、資料から分かる特徴を整理して解説します。

1. 文章の生成を省いて確率を直接出力する

Kevは文章を作らないため、「prefill(前提となる文章を一度に読み込む段階)」の処理だけで計算を終えます。一般的なAIのように「次の単語は何か」を何十回も繰り返す必要がありません。これによって余計な計算時間を大幅にカットしています。

2. 複数の質問を同時に、互いに影響されずに処理できる

1つの長い文章(たとえばカスタマーサポートに届いたクレーム)に対して、「どの部署宛てか?」「ユーザーはどれくらい怒っているか?」など複数の質問を同時に投げかけることができます。

このとき、質問同士はお互いの指示内容を見ることができない構造(隔離された枝分かれ)になっています。「ユーザーが怒っているかどうか」を調べたからといって、その影響で「担当部署」の判定が不当に引っ張られる心配がありません。

また、元となる文章の情報(KVキャッシュと呼ばれる記憶領域)は質問同士で共有するため、質問が増えても文章を最初から読み直す無駄が発生しません。

3. 3つの質問タイプを1回のリクエストで混在できる

Kevでは、以下の3つの形式の質問を同時に送ることができます。

  • Yes / No(noul): 「緊急の対応が必要ですか?」など、2者択一の確率を判定します。
  • 選択式(choice): 「返品/配送/請求のどれですか?」など、複数の候補から確率を分配します。
  • 段階評価(score): 「落ち着いている/イライラしている/激怒している」など、度合いを数値化して評価します。

4. 用途に合わせて選べる3つのサイズ

Kevには、ベースとなるモデルの大きさに応じて3つのサイズが用意されています。

  • Kev-0.8B: 最も軽量なサイズ(約8億パラメータ)
  • Kev-4B: 扱いやすさと精度のバランスが取れた標準サイズ(Kev-4Bモデルページ
  • Kev-9B: 最も精度が高く、判定の正確さを重視したい場合に向いたサイズ

これらはNVIDIAのGPU(CUDA)だけでなく、AMDのGPU(ROCm)やMacのApple Silicon(MLX)でも動かすことができ、4Bや9Bモデルは32GBメモリのMacで動作します。

自分に関係ある?向いている人・向いていない人

Kevが自分に関係あるのかどうかを整理しました。

一般のユーザーや企画・ビジネス職の人

普段の仕事でChatGPTのように直接話しかけて文章を書いてもらうツールではありません。しかし、「自分が使っているサービスの裏側」に組み込まれていく可能性が非常に高い技術です。

たとえば、サポート窓口への問い合わせが瞬時に適切な担当者に振り分けられたり、不正利用の検知がより正確になったりする形で、間接的に恩恵を受けることになります。

向いている人・用途

  • カスタマーサポートの自動ルーティングやメールの自動仕分けを作りたい人
  • 不正ログインやスパム投稿の自動判定システムを開発したい人
  • クラウドのAI利用料やサーバーの負荷を抑えたいエンジニア
  • 自前のサーバーや手元のPCで安全に判定モデルを動かしたい企業

向いていない人・用途

  • AIにブログ記事やメールの返信文、キャッチコピーを書いてほしい人
  • AIと雑談やブレインストーミングをしたい人
  • プログラミングやシステム開発を行わない環境で、単体のアプリとして使いたい人

Kevの使い方と始め方(触ってみたい人向け)

ここからは、実際に手元で動かしてみたい人向けの手順です。専門的なコマンドが含まれますので、全体像だけを知りたい方は読み飛ばしても問題ありません。

1. ブラウザで手軽に試す(インストール不要)

プログラムを書かずに試したい場合、Hugging Face上のWebデモ(Hugging Faceのデモページ)にアクセスすることで、ブラウザ上からKev-4BやKev-0.8Bの動作を直接試すことができます。

2. ローカル環境(自分のパソコン)でサーバーを起動する

手元のパソコンで動かすには、Python 3.12または3.13とパッケージ管理ツールのuvを使用します。

git clone https://github.com/jaredpalmer/kev.git && cd kev
uv sync --extra serve
uv run --extra serve python -m kev.serve --run jaredpalmer/kev-4b --port 8009

3. APIを呼び出して判定させる

サーバーを起動したら、別のターミナルから以下のようにJSONデータを送信して判定結果を受け取ることができます。

curl -s localhost:8009/v1/systemone -H 'content-type: application/json' -d '{
  "state": "Shoes arrived two weeks late and in the wrong size. Also I see two charges on my card.",
  "model": "kev-latest",
  "questions": {
    "department":  {"type": "choice", "instructions": "Which team should handle this?",
                    "criteria": {"returns": "Exchanges, refunds, wrong or damaged items",
                                 "shipping": "Delivery status, delays, lost packages",
                                 "billing": "Charges, invoices, payment problems"}},
    "escalate":    {"type": "noul",  "instructions": "Does this need urgent human attention?"},
    "frustration": {"type": "score", "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"]}
  }}'

返ってくる結果には、返品(returns: 47%)、配送(shipping: 28%)、請求(billing: 25%)といった確率や、緊急度(0.93)などが含まれます。

また、付属のプレイグラウンド画面(Node.js 20.9以上で動作)を起動すれば、Web画面上で選択肢の順番を変えたときの影響をテストしたり、チェスの盤面を評価するデモを動かしたりすることも可能です。

注意点と現時点で分かっていないこと

Kevを検討するにあたり、現時点で留意しておくべきポイントがあります。

  • 文章の生成はできない: 繰り返しになりますが、文章の作成や対話はできません。判定専用のモデルです。
  • ベースとなったJevとの完全な同一性は不明: KevはJevの挙動や公開情報を分析して再現されたモデルですが、元のJevがどんなデータで訓練されていたかは公開されていません。そのため、本家Jevと完全に同等の性能であると保証されているわけではありません。
  • クラウドサービスの公式提供や商用サポートの料金: Kev自体はオープンソースとして手元で動かせますが、商用利用時の専用ホスティングサービスや利用料金などの詳細については資料からは確認できません。

まとめ

  • Kevは「判断の確率」を直接返す特化型のAI: おしゃべりをするのではなく、仕分けや判定を素早く正確に行います。
  • 無駄な計算がなく、動作が軽い: 1文字ずつ文章を作る処理を省いているため、サーバーの負荷を抑えられます。
  • 複数の質問を同時に処理できる: 1つの文章に対して、担当部署や緊急度などをまとめて並行して判定できます。
  • 手元のパソコンでも動作可能: 0.8B・4B・9Bのサイズがあり、ブラウザ上のデモ画面から誰でも試すことができます。

よくある質問

プログラミングができない人でも使えますか?

ブラウザ上で動く無料のデモ画面(プレイグラウンド)が公開されているため、インストールやプログラミングをせずに試すことができます。ただし、本来は問い合わせ窓口の自動振り分けなど、システムの裏側で動かすための仕組みです。

無料で使えますか?料金はかかりますか?

KevはGitHubやHugging Face上でオープンに公開されており、プログラムやモデルのデータ自体は誰でも無料で入手して自分のパソコンで動かすことができます。クラウド版の利用料金等については資料内に記載がありません。

ChatGPTなどの普通のAIとは何が違うのですか?

普通のAIは単語を1つずつつなげて返信の「文章」を作りますが、Kevは文章を作らず、質問に対する「判断の確率(〇〇の可能性が91%など)」を直接計算して返します。そのため余計な計算を省いて素早く正確な仕分けができます。

パソコンで動かすにはどれくらいの性能が必要ですか?

モデルの大きさにより異なります。4B(約40億パラメータ)や9B(約90億パラメータ)のモデルは、32GBメモリを搭載したMacなどで動作させることが可能です。また、さらに小さい0.8Bモデルも用意されています。

タイトルとURLをコピーしました