Qwenputerとは?AIの内部にCPUを組み込む実験モデルの仕組み・使い方・性能

/ noro_hacks

※本記事には広告リンクが含まれます。

Qwenputerとは?AIの内部にCPUを組み込む実験モデルの仕組み・使い方・性能

Qwenputerは、AIの頭の中に「小さなコンピューター」を丸ごと組み込んだ実験的なAIモデルです。大きな数の掛け算のように、AIが苦手な計算を、外部の電卓ソフトに頼らずAI自身が正確に解きます。「AIの中にCPUを作る」という発想が意外で、技術者の間で話題になっています。

Qwenputerをひとことで言うと?

Qwenputerは、AIが計算やプログラムの実行を間違えないようにするために、AIの内部へCPUを組み込んだ実験的なモデルです。

※CPUとは: コンピューターの中で、計算や命令の実行を受け持つ部品です。パソコンやスマホの「計算係」にあたります。

たとえるなら、暗算が苦手な人が電卓アプリを開いて計算する今のやり方に対し、Qwenputerは頭の中に最初から電卓が埋め込まれている状態です。ただし「電卓が入っている」といっても、AIの内部にある数値の仕組みそのものが、電卓として動くように作り込まれているという意味です。外から別のソフトを呼ぶわけではありません。

これまでと何が変わるのか

  • 大きな数の計算が正確になる: 大きな整数の掛け算テストで、通常のQwen3.5-4Bの正答率は55.0%でした。Qwenputerは97.5%です(GitHubのREADME)。
  • 外部のツールを使わずに済む: 計算を別のソフトに渡さず、モデルの内部だけで完結します(作者のブログ)。
  • 会話をまたいで覚えておく実験もしている: AIの内部にファイルを保存し、次の会話で読み出す機能が試されています。

Qwenputerとは?誰が作ったもの?

作ったのは開発者のDivyansh Agrawal氏です。AlibabaのAIモデル「Qwen3.5-4B」を土台にしています(ニュース記事)。ニュース記事は、氏が2026年10月22日に発表したと伝えています。

作者のブログによると、Qwenputerは「標準のQwen 3.5 4Bに、RISC-VのCPUを1つ足したもの」です。ブログは、プラグインでもツールでも、隔離された実行環境(サンドボックス)でもないと、何度も強調しています(ブログ)。

※RISC-V(リスクファイブ)とは: 誰でも自由に使えるよう仕様が公開されている、CPUの設計ルールです。

ChatGPTのようなAIとの違い

ChatGPTのような対話AIは、入力された文に続く言葉を予測して答えを作ります。そのため、大きな数の掛け算では間違えることがあります。ニュース記事によると、これを避ける一般的な方法は、PythonなどのツールをAIに呼び出させることです。

通常のAI AI+外部ツール Qwenputer
計算するのは AI自身の予測 外部のプログラム モデル内部のCPU
外部の実行環境 不要 必要 不要
大きな数の計算 間違えやすい 正確 正確(テストの範囲では)

なぜ話題になっているの?

理由は大きく3つあります。

1つ目は、発想の意外さです。AIに計算ツールを持たせるのではなく、AIの内部の構造そのものをCPUとして使います。ブログの冒頭にある「I can't believe it's not silicon(シリコンじゃないなんて信じられない)」という一文が、この驚きをよく表しています。※シリコンとは、本物のCPUチップの材料です。

2つ目は、作り方です。CPUの部分は、AIに学習させて身につけさせたものではありません。CPUの設計図から必要な数値を計算で求め、モデルに直接書き込んでいます(GitHub)。

3つ目は、結果の数字です。ニュース記事によると、長い整数の四則演算テスト「NUPA」では、通常版の48.6%に対して100%でした。このテストは今回の資料のうちニュース記事にだけ出てきます。

反応も広がっています。海外の技術系コミュニティのHacker NewsやLobsters、日本のはてなブックマークで、この記事が投稿されています。作者は続編も2本書いています。1本は、このタイプのAIが考えの過程を内部に隠せてしまう可能性について、もう1本は、AIが改ざんできない監視の仕組みとしての使い道についてです(ブログ)。続編の中身は、今回の資料からは確認できません。

どんな仕組み?主な特徴

1. 外部ツールなしで、正確な計算やプログラムの実行ができる

CPUは32ビットのRISC-V(RV32IM。拡張のZbaと、大きな数用の小さな計算ユニットつき)で、C言語とMicroPython(Pythonを小さくした言語)のプログラムを動かせます。公式のテスト集「riscv-tests」にも通っています。

AIの内部では、Qwen本来の層の手前に11層が追加されています。計算を頼むときは、Qwenは普通の「ツール呼び出し」と同じ書き方で電卓(calc)への依頼を書きます。ただし外部では何も動きません。追加された層がその依頼を読み、CPUで実行し、答えはモデル自身が1桁ずつ書き出します(GitHub)。

信頼性の根拠として、2つの数字が挙げられています。

  • READMEでは、約23万か所の出力を参照用の模型と突き合わせて、食い違いがゼロでした。
  • ニュース記事では、作者の話として、約1800万命令を続けて動かしてもエラーが出なかったとされています。

2. AIの「記憶の仕組み」をパソコンのメモリとして使う

CPUには、計算の途中経過やプログラムを置く場所が必要です。作者が目をつけたのが、Qwen3.5が文章を読むときに使っている「Gated DeltaNet」という記憶の仕組みです。

この仕組みは、表のような記憶の領域を持っています。ふだんは古い内容が少しずつ薄れていきます。作者は設定を調整し、薄れないようにしました。さらに、番号で指定した1行だけを書き換え、同じ番号で正確に読み出せるようにしています。番号つきのロッカーに、荷物を出し入れするイメージです。

資料1によれば、この方式には長所があります。普通の方法で長い会話を覚えさせると、記憶の量が会話の長さに応じて増えます。この記憶領域の大きさは、会話がどれだけ長くなっても変わりません。

「記憶の仕組みをメモリとして使う」という考え方自体は、2021年のSchlag氏らの研究にもありました。ブログは、新しいのは「正確に、番号で指定できるようにして、実際に使われているモデルの中でCPUを動かせるほど安定させた点」だと説明しています。

3. 学習ではなく「設計図から計算」して作る

CPUの回路を「このレジスタを読む」「2つの数を足す」「ゼロなら飛ぶ」といった小さな手順の並びとして書き、コンパイラという変換ソフトが、手順ごとにAIの層の一部へ置き換えます。追加した11層に学習で決めた数値は1つもありません。

この追加が、AIの話し方に与える影響は小さいようです。READMEは、元のモデルとの出力の差を表す指標(KL)が、ノイズの目安5e-4に対して6e-4だったと報告しています。ニュース記事は、土台のQwen3.5-4B自体の重みは変えていないと書いています。

※重みとは: AIの頭脳にあたる、膨大な数値の集まりです。

4. 計算の様子が「実行記録」として文字に残る

CPUが1つの命令を実行するたびに、モデルは数個の短い部品(トークン)を出力します。「どの場所に書くか」「何を書くか」「命令の終わり」を示す部品です。AIが文章を生み出すときと同じ流れでCPUが進むため、この出力がそのまま実行記録になります。

ただし、1命令ごとに数個の部品を出す必要があり、遅くなります。READMEの計測では、GPUの「L4」で毎秒約3,200個です。

5. 【実験中】AIの内部にファイルを保存する

Qwenputerには別バージョン「Filesystem」があります。calcに加えて、保存(put)、追記(append)、読み出し(get)、一覧(list)、削除(delete)の5つの機能が使えます。ファイルは最大512件、合計で約5万3千トークン分の文章を置けます。会話の最後に内部の状態を保存し、次の会話の最初に読み込めば、前の内容が残ります(GitHub)。

作者自身は「実験段階で、開発中」としており、コードは別のブランチ(rv-store)にあります。

数字で見る性能

READMEに載っている比較です。各テスト40問、AIが毎回いちばん可能性の高い答えだけを選ぶ設定で、数字は正答率(%)です。「Pythonツール」は、通常のQwenにパソコン上の本物のPythonを使わせた場合です。

テスト 通常のQwen3.5-4B Qwenputer Pythonツール
整数の四則演算(合成) 75.0 97.5 97.5
大きな数の掛け算 55.0 97.5 100
大きな数の割り算 72.5 97.5 95.0
掛け算と割り算の組み合わせ 90.0 100.0 97.5
大きな数の足し算・引き算 87.5 97.5 97.5

97.5%は、40問中39問正解という意味です。

Filesystem版は、複数回の会話をまたぐ記憶テストが90問で83.3%(通常版7.8%、Pythonツール使用78.9%)でした。途中で変わった情報を問うテストは30問で90.0%(通常版3.3%、Pythonツール使用83.3%)です。

自分に関係ある?向いている人・向いていない人

結論から言うと、エンジニアでない人が直接使うものではありません。現時点では研究・実験の成果物で、動かすにはコマンド操作と高性能なGPUが必要だからです。

ChatGPTのようなアプリを、今日から置き換えるものでもありません。普段使うサービスの裏側に、この方式が入っていくかどうかは、資料からは分かりません。作者が挙げている今後の方針は、AIが書いたPythonコードをモデル内部のMicroPythonで動かす仕組みと、CPUの速度向上の2つだけです(ニュース記事)。

向いている人

  • AIの内部の仕組みに興味があるエンジニアや研究者
  • 「AIの計算ミスをなくす別の方法」を調べている人
  • 24GBメモリのGPUを用意でき、実験として動かしたい人

向いていない人

  • すぐ仕事で使える、手軽なAIサービスを探している人
  • 返事の速さが重要な用途に使いたい人
  • コマンド操作に慣れておらず、セットアップに時間をかけられない人

非エンジニアの方は、「AIの計算の弱点を、外部ツールではなく内部の作り込みで解こうとする試みがある」と知っておけば十分です。

触ってみたい人向け:入手先と始め方

ここからは実際に触ってみたい人向けです。読み飛ばしても全体像は分かります。

公開先は次のとおりです(どちらもGitHubのREADMEにリンクがあります)。

ニュース記事によると、動かすにはメモリ24GBのGPUが1基必要です。パソコン用の通常のメモリとは別の、画像・AI計算用の部品です。

READMEのQuickstartは次のとおりです。プログラムを取得し、モデルをダウンロードして、「calcを使って123456789×987654321は?」と質問する流れです。

git clone https://github.com/divagr18/qwenputer && cd qwenputer/experimental/riscv && uv sync --extra hf
hf download divagr1925/Qwen3.5-4B-Qwenputer --local-dir qwenputer-rv
uv run python -m chipformer.rv.chat qwenputer-rv --firmware tests/data/rv/calc-bridge.elf \
    --ask "Use calc: what is 123456789 * 987654321?"

READMEによれば、モデル自体は通常のQwen3.5用の形式で読み込めます。ただしCPUを起動するには、付属の「RvChat」というドライバーが必要です。ファイル保存機能つきのモデルは、コードが別ブランチにあり、詳しい手順はモデルのページ(モデルカード)に書かれています。そのため、最新の手順はそちらで確認してください。

注意点・現時点で分かっていないこと

制約として報告されていること

  • サイズが大きい: ニュース記事によると、容量は18.8GBで、通常のQwen3.5-4Bのおよそ2倍です。
  • 時間がかかる: 通常のCPUならミリ秒で終わる計算が、数秒かかる場合があるとされています。
  • 専用のドライバーが必要: 普通のAIと同じ読み込み方だけでは使えません。
  • 一部は実験段階: ファイル保存機能は、作者自身が「実験的で開発中」としています。

資料の間で食い違っている点

  • Pythonツールとの比較: ニュース記事は「5種類すべてで同等以上」と書いています。しかしREADMEの表では、大きな数の掛け算でQwenputerが97.5%、Pythonツールが100%でした。この1項目ではツールのほうが高く、READMEの表のほうが正確だと思われます。
  • ファイル保存テストの比較対象: READMEは、変わった情報を問うテストで、通常のQwenが3.3%だったと載せています。一方ニュース記事は「過去の会話をそのまま入力した場合は30%」と書いています。この差の理由は、資料からは確認できません。

評価の読み方

成績は作者自身の報告で、各テスト40問です。複数の第三者による追試は、今回の資料には出てきません。数字は目安として読むのがよいでしょう。

まだ公表されていないこと

  • ライセンスと利用料金: 今回の資料には書かれていません。商用利用などを考える場合は、公開ページで確認が必要です。
  • 一般向けサービスとしての提供予定: 資料からは確認できません。
  • 続編2本の詳しい内容: 資料1に紹介はありますが、中身は今回の資料には含まれません。

まとめ

  • Qwenputerは、AIモデルの内部にCPUを組み込み、外部ツールなしで正確な計算を目指す実験モデルです。
  • 作ったのはDivyansh Agrawal氏で、土台はAlibabaのQwen3.5-4Bです。
  • AI自身の記憶の仕組みをメモリとして使い、CPUの部分は学習ではなく設計図からの計算で作られています。
  • 大きな数の掛け算の正答率は、通常版の55.0%から97.5%に上がりました。ただし各テスト40問で、作者自身の報告です。
  • 容量は約2倍、計算には数秒かかることがあり、動かすには専用ドライバーとGPUが必要です。一般の人が直接使う段階ではありません。
  • ライセンスや料金は、今回の資料では確認できません。

よくある質問

プログラミングができなくても使えますか?

現時点では難しいです。資料のQuickstartはコマンド操作が前提で、24GBのメモリを積んだGPUと専用のドライバーも必要とされています。一般の人が使うアプリではなく、研究・実験向けの公開物です。

無料で試せますか?

モデルとコードはHugging FaceとGitHubで公開されています。ただし、ライセンスや利用料金は今回の資料からは確認できません。動かすには高性能なGPUが必要なので、実際の費用は環境しだいです。

ChatGPTなどの計算と何が違うのですか?

一般的なAIは、計算が必要なときにPythonなどの外部ツールを呼び出します。Qwenputerは、AIモデルの内部に組み込んだCPUが計算を実行し、答えもモデル自身が1桁ずつ書き出します。外部のプログラムは動きません。

Pythonツールを使わせる方法と比べて、精度は高いのですか?

READMEの表では、5種類のテストのうち4種類でQwenputerがツール利用と同等以上でした。大きな数の掛け算だけは97.5%対100%でツールが上回っています。各テスト40問と小規模で、作者自身の報告です。

私たちが普段使うサービスにも入ってきますか?

資料には製品化や他サービスへの組み込み計画は書かれていません。作者は今後の方針として、速度の向上と、AI自身が書いたプログラムをモデル内部で動かす仕組みに取り組むと述べています。

関連記事