Inkling 2 Miniとは?ノートPCで動く小型AIモデルの仕組み・使い方・特徴を解説

/ noro_hacks

※本記事には広告リンクが含まれます。

Inkling 2 Miniとは?ノートPCで動く小型AIモデルの仕組み・使い方・特徴を解説

Inkling 2 Miniは、Thinking Machines Labが2026年11月20日に公開したAIです。中身のデータが誰でも入手できる形で公開されています。ネットにつながなくても、手元のノートパソコンの中で動かせるほど小さいのが特徴です。「小さいのに賢い」と評判になり、Hacker Newsの上位に入ったため、名前を見かける機会が増えました。

Inkling 2 Miniとは、ひとことで言うと何ですか?

Inkling 2 Miniは、手元のパソコンの中で動かして、プログラミングのような考える作業を任せるための、小型のAIモデルです。

たとえるなら、計算問題を一度で答えず、頭の中で3回見直してから答える人のようなものです。紙にたくさん書き出さなくても、見直しの回数で正解に近づけます。

Inkling 2 Miniも似た作りです。AIの中の計算の段のうち、真ん中の部分を3回くり返して通します。開発元の発表では、これにより少ない文字数で正しい答えに届きやすくなると説明されています。

これまでと何が変わるのか

  • 自分のパソコンで動かせる: 約20GBのメモリで動く大きさです。報道では、32GB以上のメモリを積んだMacで動くとされています。
  • 途中の文章を長く書かずに考える: 見直しを内部で行うので、答えまでに書く文字数が少なくて済むとされています。
  • 誰でも入手できる: 中身のデータ(重み)が公開されています。The Decoderは、ライセンスが Apache 2.0 だと伝えています。

Inkling 2 Miniとは何ですか? ChatGPTとどう違う?

Inkling 2 Miniは、AI研究企業のThinking Machines Labが作ったAIモデルです。同社の大型モデル「Inkling 2 Small」の小型版にあたります。Wccftechによると、Smallは5,940億パラメータです。Miniは264億なので、約22分の1の大きさです。

※パラメータとは: AIの頭の中にある、調整つまみのようなものです。数が多いほど大きなAIになり、動かすのに必要なパソコンの力も増えます。

ChatGPTのようなAIは、会社のサーバー上で動くサービスとして使うのが一般的です。Inkling 2 Miniは、AIの中身そのものが公開されています。そのため、開発者が自分のパソコンにダウンロードして動かしたり、自分の用途に合わせて調整したりできます。

※重み(ウェイト)とは: AIが学習した結果が詰まったデータのことです。「AIの中身」と考えてください。重みが公開されているモデルを「オープンウェイト」と呼びます。

文章だけでなく画像も入力できます。一度に読める文章の上限は100万トークンと、かなり大きいです(Hugging Face)。

※トークンとは: AIが文章を数えるときの単位です。日本語なら、おおよそ数文字ごとに1つと考えてください。

なぜ話題になっているのですか?

理由は、小さいのに成績が高いと発表されたことです。

開発元は、パラメータ数が1,000億未満のオープンウェイトモデルの中で、プログラミング系のテストで首位だと述べています。DeepSWE v1.1で48.2%、Vals Index v2.2で46.5%です。Wccftechによると、同じ DeepSWE v1.1 で、比較対象の Qwen3.8-27B は42.2%でした。

外部の評価もあります。The Decoderによると、評価会社Artificial Analysisの総合指数で20点です。これは Qwen3.8 27B と並ぶ点数で、費用は約6分の1、速度は約4倍とのことです。

Hugging Faceは、実際に触った印象として、少なくとも Qwen 3.8 27B と同程度と書いています。また、48のテストのうち32で、比較した4モデルを上回ったとしています。ただし同社も「さらなる検証が必要」と付け加えています。

実演も注目を集めました。開発元の研究者は、飛行機の中で機内モードのMacBook Proを使い、数分で遊べるフライトシミュレーターを作らせたそうです。

コミュニティの反応も大きく、話題の一覧ではHacker Newsの記事が1,392、さらに小さく圧縮した版の話題が378という数字で並んでいました。

どんな仕組みで動いているのですか?

1. 考え直す回数が増える(同じ層を3回通す)

できること: 長い途中経過を書かずに、答えの質を上げやすくなります。

仕組み: 24段ある計算のうち、真ん中の12段を3回通します。最初の6段と最後の6段は1回ずつです。見かけ上は48段分の計算をしますが、保存する重みは24段分で済みます(The Decoder)。

Hugging Faceによると、2回目以降は、前の回の結果を受け取って考えを磨き直す仕組みがあります。

2. 必要な専門家だけを動かす

できること: 大きなAIの知識を持ちながら、1回の計算量を抑えられます。

仕組み: 「Mixture-of-Experts(専門家の混合)」という作りです。各段に128人の専門家がいて、1つの単語ごとに8人だけを選んで働かせます。全体で264億パラメータ、そのうち1回に使うのは34億です。ループ分を数えると、1単語あたり54億になります(開発元)。Hugging Faceは「約30億」と書いており、数え方が少し違います。

3. 最初から軽い形式で学習している

できること: 約20GBのメモリで動き、ノートパソコンに収まります。

仕組み: 重みの大半を、NVFP4という4ビットの軽い数値形式で学習し、そのまま配っています。最後の4段だけはMXFP8という8ビット形式です。Wccftechによると、開発元は、学習後に縮める方式と違って変換による劣化を避けられると説明しています。

4. 速く動かすための追加部品

できること: 文章の出力を速められます。

仕組み: Hugging Faceによると、「DSpark」という補助モデルが付いています。わずかなメモリを足す代わりに、速度が上がります。

5. 研究用の「回数を変えられる版」

できること: ループの回数を1回、2回、3回と変えて試せます。

仕組み: 同時に公開された研究用の版です。Hugging Faceによると、1回か2回にすると大幅に速くなりますが、品質は少し下がる場合があります。

開発元は、この版で「AIの考えを人が確認できるか」も調べています。途中の文章なしで解ける時間の長さは、1回で16秒、3回で37秒でした。ループを増やしても、途中の文章は短くなりつつ読める状態を保ち、妨害行為のテストの成績も悪化しなかったそうです。ただし、いずれも開発元自身の測定です。

自分に関係ありますか? 向いている人・向いていない人

結論から言うと、Inkling 2 Miniは、プログラミングをしない人が直接使うアプリではありません。AIの「部品」です。

普段使うサービスに、将来組み込まれる可能性はあります。ただし、具体的な採用予定は資料に書かれていません。

向いている人

  • 自分のパソコンの中でAIを動かしたい開発者や研究者
  • 社外にデータを出さず、オフラインでAIを使いたい人
  • AIの内部の工夫(ループ構造)に関心がある人

向いていない人

  • ボタンを押すだけですぐ使えるサービスを探している人
  • メモリが少ない古いパソコンしかない人

試したいだけの人には、ブラウザ上で試せる Tinker Playground があると The Decoder が紹介しています。

どこで手に入れて、どう始めますか?

ここからは実際に触ってみたい人向けです。読み飛ばしても全体像は分かります。

資料にはコマンドや設定手順が載っていないため、入手先と前提条件だけをまとめます。

  • 重みの入手: Hugging Face で公開されています。研究用の回数可変版も同じ場所にあります。
  • ブラウザで試す: Tinker Playground で試せます。開発元の発表では、Tinkerは推論(AIに答えさせること)とカスタマイズに使えます。
  • 手元で動かす: Hugging Faceは transformers、Llama App(llama.cpp)、MLXへの対応を挙げています。Wccftechは Ollama で動くと伝えています。
  • 業務用の環境: SGLangが公開日から対応しているとHugging Faceは述べています。
  • 必要な環境: 報道では、32GB以上のメモリのApple シリコン搭載Macと、NVIDIAのDGX Sparkが挙げられています。開発元のデモは48GBのMacBook Proでした。

コミュニティによる、さらに小さい版

Hacker Newsで話題になった LookAtMyQuant は、開発元とは別の個人開発者のプロジェクトです。Inkling 2 MiniをApple シリコン向けに圧縮した4つの版を配っています。以下は、この開発者自身の測定です。

版 文章部分のサイズ GSM8K HumanEval
元のモデル 18.89GB 96.5% 92.7%
12.8GB版 12.76GB 96.5% 92.7%
8.9GB版 8.87GB 96.0% 90.9%
5.4GB版 5.38GB 88.0% 70.7%

小さくするほど成績が下がり、特に5.4GB版でプログラミングの成績が大きく落ちています。公式の成果物ではない点にも注意してください。

注意点・まだ分かっていないことは?

  • 数値は自己申告が中心です: 開発元の成績は会社発表です。Wccftechも、テストの設定が違うため万能の優位性とは読めないと注意しています。開発元のグラフにも「評価条件はモデルごとに異なる」とあります。
  • 速度は理論値です: 開発元の速度は、メモリ速度614GB/s、バッチサイズ1という条件で計算した理論上の上限です。実機の体感速度とは別物です。
  • 数字が資料ごとに少し違います: 1回に使うパラメータは、開発元が34億、Hugging Faceが約30億です。総合指数もThe Decoderは20点、Wccftechは20.1です。端数の扱いの違いかもしれませんが、資料からは断定できません。
  • 検証はこれからです: Hugging Faceの評価は「雰囲気を確かめるテスト」が中心で、同社も追加検証が必要としています。回数可変版も、深くは評価していないとのことです。
  • 料金は不明です: Tinkerの料金は、資料からは確認できません。
  • ライセンスは要確認です: Apache 2.0 と書いているのは The Decoder だけです。使う前に、公式のモデルカードで条件を確かめてください。
  • メモリの目安は幅があります: 重みは約20GBですが、実際に動かすには、資料の範囲では32GB以上が目安です。

まとめ

  • Inkling 2 Miniは、手元のパソコンで動かせる、小型のAIモデルです。
  • 中間の部分を3回通して考え直す作りで、少ない文字数でも答えに届きやすいとされています。
  • プログラミング系のテストで、同じ大きさ帯のモデルより高い成績が発表されています。ただし多くは開発元の自己申告で、検証はこれからです。
  • 普通の人が直接使うアプリではありません。将来、身近なサービスの裏側で使われる可能性はありますが、資料には予定が書かれていません。
  • 試すなら、ブラウザの Tinker Playground か、Hugging Face で公開されている重みが入り口です。

よくある質問

プログラミングができなくても Inkling 2 Mini を使えますか?

Inkling 2 Mini は、アプリというよりAIの部品です。ダウンロードして動かすには、ある程度の技術知識が要ります。ブラウザで試せる Tinker Playground が紹介されているので、まずはそこが入り口になります。

Inkling 2 Mini は無料で試せますか?

重み(AIの中身)は Hugging Face で公開されており、Tinker Playground で試せるとThe Decoderが伝えています。ライセンスは Apache 2.0 と報じられています。Tinkerの料金体系は、資料からは確認できません。

Inkling 2 Mini を動かすにはどんなパソコンが必要ですか?

メモリ使用量は約20GBとされています。報道では、32GB以上のメモリを積んだ Apple シリコンの Mac と、NVIDIAのDGX Sparkで動くと紹介されています。開発元のデモは48GBのMacBook Proでした。

「同じ層を3回通す」とはどういう意味ですか?

AIの中の計算の段を、中間の12段だけ3回くり返して通す作りです。考え直す回数が増えるので、長い途中の文章を書かなくても答えにたどり着きやすい、と開発元は説明しています。

Inkling 2 Mini の性能は本当に高いのですか?

開発元は、1,000億パラメータ未満のオープンウェイトモデルで首位と述べています。ただし数値は会社の自己申告で、テスト条件もモデルごとに違います。Hugging Face も「さらなる検証が必要」としています。

関連記事