DeepInfer（ディープインファー）は、中国のAI企業DeepSeekが2026年10月20日に公開した、AIを速く動かすための「裏方」のソフトです。チャットAIの画面ではなく、その裏で計算をさばく部分にあたります。その設計図にあたるプログラムが、誰でも読める形で公開されました。そのため開発者の間で名前を見かけるようになっています（公式リポジトリ）。
DeepInferを一言でいうと何ですか？
DeepInferは、DeepSeekのAIを大勢の利用者に向けて速く動かすための、裏方のソフトです。
身近なたとえで言うと、レストランの厨房の段取りに近いものです。AIモデル（質問に答える頭脳の部分）が料理人だとすると、DeepInferは「注文をどう振り分け、どの順で作り、どう素早く出すか」を決める仕組みと調理器具のセットです。料理人の腕前を上げるものではなく、たくさんの注文をさばく厨房の運営を良くするものです。
実際には、AIが答えを作る計算を、たくさんの計算用チップに手分けさせたり、無駄な待ち時間を減らしたりします。公式の説明では、DeepSeekの大規模な本番サービスを支えているソフトだとされています（GitHub）。
これまでと何が変わるのですか？
- 普段使うサービスの速さや安さにつながる可能性があります。 DeepSeekは、計算にかかる費用と電気代を減らし、AIをより手頃にしたいという狙いを述べています（blockchain.news）。ただし、利用料金が実際に下がるかどうかは、資料からは確認できません。
- AI企業の「裏側」の一部が見られるようになりました。 自社の本番サービスを支えるソフトが、Apache License 2.0（オープンソースの公開ルールの一つ）のもとで出されました（GitHub）。
- 自分の設備でDeepSeekのAIを動かしたい会社には、手がかりが増えました。 ただし、サービスとして完成させるには足りない部品もあります。詳しくは「注意点」の節で説明します。
DeepInferとは誰が作ったものですか？
DeepSeekが作り、GitHub（プログラムの置き場所）で公開しているソフトです。公式の説明では「高性能な推論フレームワーク」と呼ばれています（GitHub）。
「推論」とは、AIが質問を受け取って答えを作る処理のことです。「フレームワーク」は、ひとまとまりの土台だと思ってください。
ChatGPTのようなチャットAIは、3つの層に分けると分かりやすくなります。画面（アプリ）、頭脳（モデル）、頭脳を動かす仕組みの3つです。DeepInferは3つ目にあたります。話しかけて使うアプリではありません。
| 項目 | チャットAIのアプリ | DeepInfer |
|---|---|---|
| 何か | 画面を開いて話しかけるサービス | その裏で計算を回す部品 |
| 主に触る人 | 一般の利用者 | 開発者・サービスの運営側 |
| 公開の形 | 画面やアプリ | ソースコード（プログラムの設計図） |
公開版が対応しているモデルは、現時点でDeepSeek-V4.1-Flashだけです（GitHub）。モデル側の特徴や料金の目安は、当サイトのDeepSeek 4.1 Flashとは？安さの理由（仕組み）・使い方・料金の目安を解説や、DeepSeek-v4.1-Flash-1017とは？無償公開のAIモデルの特徴・料金・使い方をやさしく解説で扱っています。
なお、DeepInferは同じ分野の既存ソフトを土台にしています。公式の謝辞によると、もともとはvLLMを中心に作られ、SGLangとTensorRT-LLMからも着想を得たそうです（GitHub）。
なぜ今、名前を見かけるのですか？
理由は大きく3つあります。
1つ目は、発表の内容です。DeepSeekは10月20日に、公式のXアカウントでDeepInferの公開を発表しました。大規模なサービスで速く、遅れも少なく動かせることを掲げ、計算費用と電力を減らす狙いを述べています（blockchain.news）。
2つ目は、公開されたものが本番で使っているソフトだという点です。DeepSeekはこれまでにも、モデルや計算用の部品（演算ライブラリ）を公開してきました（Crypto Briefing）。今回は、それらを束ねて動かす土台そのものが出ました。
さらに、今後の新しいモデルの推論用プログラムや改良も、この土台の上で更新していくと発表されています（KuCoin、新浪財経）。更新の時期や頻度は、資料からは分かりません。
3つ目は、開発者の間での盛り上がりです。技術系の掲示板Hacker Newsでは「DeepSeek just open-sourced its inference engine」という題の話題が立ち、GitHubのリポジトリにも注目が集まっています。
報じられている数字は？
ニュースサイトのCrypto Briefingは、DeepSeek-V4.1-Flashに関する性能として、次の数字を伝えています（Crypto Briefing）。
- 1日あたり155兆トークン（1つのクラスタあたり）。 トークンとは、AIが文章を扱うときの細かい断片です。クラスタは、まとまって動く計算機のグループのことです。桁が大きく実感しにくい数字ですが、それだけ大量の文章を毎日さばいているという意味です。
- 入力キャッシュの命中率が96%。 過去に処理した内容を覚えておいて再利用する割合です。同じ説明を何度も聞かれたとき、毎回ゼロから考えずに前のメモを見るようなものです。
- 最初の返事が出るまで平均約400ミリ秒。 約0.4秒、つまり1秒の半分より短い時間です。
- 生成の速さは毎秒230トークン。 コーディング用途では最大で毎秒300トークンとされています。
この数字には注意が必要です。出典はこの記事で、公式のREADME（説明書き）の文章には、これらの数値は載っていません。READMEにあるのは、性能を示すグラフ画像と、その測定条件（準備作業の測定は4基のGPU、答えを作る段階の測定は64基）だけです（GitHub）。
また、READMEによると、今回の公開版には「KVキャッシュ」（過去の処理内容を覚えておく仕組み）が含まれていません。上の命中率が、公開された部分だけで再現できるのかは、資料からは確認できません。
華為（Huawei）のチップにも対応
対応チップはNVIDIAのSM100 GPUと、Huawei Ascend 950 NPUの2種類です。Crypto Briefingは、中国製のチップがNVIDIAと並んで公式の公開物に入ったことを、見どころの一つとして挙げています。これは同記事の見方です。
背景: モデル側の動き
新浪財経は、DeepSeekが10月17日にV4.1 Flashを更新したと伝えています。API（外部のソフトからAIを呼び出す窓口）の価格は据え置きだそうです（新浪財経）。モデルの更新とDeepInferの公開が、近い時期に重なった形です。
どんな特徴がありますか？
公式の機能一覧から、主なものを5つ選びました。各項目は「何ができるか」を先に、「どう実現しているか」を後に書いています（GitHub）。
1. たくさんのチップに仕事を手分けする
できること: 一台には収まらない大きなAIを、多数のチップで分担して動かせます。
仕組み: READMEには、Attention DP / balanced CP、MoE EP + EPLBという並列化の方式が並んでいます。MoEは、質問ごとに専門の部分ネットワークへ振り分けるタイプのAIです。EPは、その専門部分を別々のチップに置いて動かす考え方です（Crypto Briefing）。それ以外の方式の細かい説明は、資料にありません。
2. 先読みして速くする
できること: 答えが出るまでの時間を縮められます。
仕組み: 「DSpark」と呼ばれる方式です。次に出る言葉を先に何個か予想し、あとでまとめて正しいか確かめます。予想の確からしさの見積もりを使って、確かめるタイミングを決めます。予想が当たれば、1つずつ作るより速く進みます。
3. 無駄な待ち時間と下準備を減らす
できること: 計算チップが遊んでいる時間と、やり直しの作業を減らせます。
仕組み: 非同期スケジューリングは、次の仕事の段取りを、今の計算と同時に進める方式です。厨房で、今の料理を作りながら次の注文の準備をするのに似ています。初期設定で有効になっています。
もう一つが「SWA bounded replay」です。答えを作り始める前の下準備のやり直しを、必要な末尾の部分だけに絞ります。SWAという略語の意味は、資料に説明がありません。
4. 同じ入力なら同じ答えを返す
できること: 同じ質問と同じ設定なら、毎回まったく同じ出力が得られます。ほかの人の質問と一緒に処理されても、結果が変わらないようにもできます。
仕組み: 「バッチ不変（batch-invariant）」の推論と、「決定的サンプリング」という機能です。決まった乱数の種（seed）を渡して使います。どちらもNVIDIA製のチップでのみ使えます。用途の説明は資料にありませんが、結果の再現が必要な場面で意味を持つ機能です。
5. 出力の形を指定できる
できること: 答えを、決まった書式の中に収められます。たとえば、後でプログラムが読み取りやすいJSON（データの書式の一つ）で返させられます。
仕組み: 正規表現、JSONスキーマ、EBNF文法のいずれかで、生成の条件を縛ります。
これらの土台には、FlashMLA、DeepGEMM、DeepEPなどの計算用部品が使われています。DeepSeekが別のリポジトリで公開しているものも含まれます。
自分に関係はありますか？
結論から言うと、エンジニアでない人が直接使うものではありません。普段使うサービスの裏側に組み込まれていく種類のソフトです。
READMEの設定を見る限り、使うには専用のGPUかNPUを備えたLinux環境を整え、自分でビルドする必要があります（GitHub）。画面を開いて使える形では配られていません。
企画・営業・マーケの立場なら、次のように捉えるのが現実的です。DeepSeekのAIを自社で動かすかどうかの検討が出たときに、選択肢として名前が挙がるソフトです。ただし、資料から分かる料金や導入費用の情報はありません。
向いている人
- Linuxの扱いに慣れていて、自分で環境を組める開発者や研究者
- NVIDIAのSM100 GPUか、Huawei Ascend 950 NPUを使える環境がある人
- DeepSeek-V4.1-Flashを、自前の設備で動かして試したい人
- 大規模な推論の工夫（先読み、手分け、再現性など）の中身を学びたい人
向いていない人
- 画面を開いてすぐ使えるチャットAIを探している人。普通のアプリを使う方が早いです。
- 一般的なパソコンで気軽に試したい人。動作確認されている機器は限られており、資料では一般的なパソコンへの対応は確認できません。
- DeepSeek以外のモデルを動かしたい人。資料に他のモデルへの対応は書かれていません。
- 応答の速さが命のリアルタイム製品に、すぐ使いたい人。Crypto Briefingは、公開版がオフライン推論（その場で即答するのではなく、まとめて処理する使い方）中心である点から、切り替える前によく評価すべきだと述べています。
触ってみるにはどうすればいいですか？
ここからは実際に触ってみたい人向けです。読み飛ばしても全体像は分かります。
入手先と前提条件
入手先はGitHubのdeepseek-ai/DeepInferです。READMEに書かれている前提条件は次のとおりです。
- Linux
- GCC 13.0以上
- Python 3.12
- CUDA 13（NVIDIAの場合のみ）
- CANN 9.2（Ascendの場合のみ）
- 対応ハードウェア: NVIDIA SM100 GPU、またはHuawei Ascend 950 NPU
ビルド
ビルドの前に、空のPython 3.12環境を作って有効にしておきます。そのうえで、使うチップの種類を環境変数で指定して、ビルドを実行します。NVIDIAなら次のとおりです。Ascendの場合は、nvidiaの代わりにascendを指定します。
export DEEPINFER_ACCELERATOR=nvidia
./build.shこの環境変数は、DeepInferを動かす環境でも指定したままにしておく必要があります。
試しに動かす
サンプルのプログラムが用意されています。
python examples/offline_inference.py標準のモデルは、Hugging Face上のdeepseek-ai/DeepSeek-V4.1-Flash-1017です。初回の実行時に、Hugging Faceのキャッシュへダウンロードされます。手元に保存したコピーを使いたいときは、環境変数DEEPINFER_HF_MODEL_DIRにその場所を指定します。ダウンロードの容量や必要なメモリ量は、資料に書かれていません。
主な設定
READMEに載っている主な環境変数は次のとおりです（GitHub）。
- 先読み（DSpark）:
DEEPINFER_ENABLE_MTP_VARLEN=1で有効にします。DEEPINFER_USE_NEXTN_DECODEで、先読みする長さの上限を決めます。初期値は5です。 - SWA bounded replay: V4.1の標準設定は、
DEEPINFER_YOCO_PREFILL_TRUNCATION_MODE=compactとDEEPINFER_YOCO_PREFILL_KEEP_TOKENS=140です。 - バッチ不変の推論:
DEEPINFER_BATCH_INVARIANT=1（NVIDIAのみ）。 - 決定的サンプリング:
DEEPINFER_BATCH_INVARIANT=1とDEEPINFER_ENABLE_MTP_VARLEN=0を指定し、SamplingParamsに固定のseq_seedを渡します（NVIDIAのみ）。 - 出力の形の指定:
SamplingParamsにso_argsを渡します。例はリポジトリのexamples/_structured_output.pyにあります。
サンプルや評価の詳しい手順は、リポジトリ内のexamplesとevalのREADMEが案内先とされています。
注意点や、まだ分かっていないことは？
公開されたのは「一部」
READMEは、完全な推論サービスに必要でも今回の公開に含まれないものを、3つ挙げています（GitHub）。
- KVキャッシュのシステム
- 準備段階と回答段階を別々の機械に分ける仕組み（VE/Prefill/Decodeの分離）。必要な機能の多くは実装済みとされています。
- 準備段階と回答段階の両方で、複数の複製に負荷を振り分ける仕組み
公開版の中心は、READMEによればオフライン推論です。
資料の言い方に食い違いがあります
KuCoinと新浪財経は、DeepSeekが内部の推論フレームワークを「全面的に」公開すると伝えています。一方、READMEには、上のとおり今回含まれないものがあると書かれています。
つまり「全面公開」という言い方は、公開版だけでサービスが完結するという意味とは限りません。この点について、DeepSeekからの補足説明は、今回の資料の範囲では確認できません。
ほかに確認できなかった点
- 対応モデル: 現時点ではDeepSeek-V4.1-Flashのみです。今後の新モデルへの対応は発表されていますが、時期は公表されていません。
- 対応ハードウェア: SM100 GPUとAscend 950 NPUに限られます。バッチ不変の推論と決定的サンプリングは、NVIDIAのみです。
- 性能の比較: 他の推論ソフトとの比較結果は、資料にありません。報じられた数字の条件も、不明な点が残っています。
- ライセンスと料金: DeepInfer本体はApache License 2.0で公開されています。ソフトの使用料に関する記載はなく、動かすための設備費用も資料から分かりません。モデル側の利用条件は、別に確認が必要です。
- deepseek-recipe: Crypto Briefing、KuCoin、新浪財経は、文章をトークンに分け、また戻す部品「deepseek-recipe」も同時に公開されたと伝えています。公式APIと同じ処理に合わせてあるため、自前で動かしても結果にずれが出にくいそうです。ただし、今回のREADMEの本文には登場せず、入手先は資料から分かりません。
まとめ
- DeepInferは、DeepSeekのAIを大勢の利用者向けに速く動かすための、裏方のソフトです。チャットAIのアプリではありません。
- DeepSeekが10月20日に公開しました。自社の本番サービスを支えるものだと説明され、誰でも読める形のオープンソースです。
- 手分け、先読み、待ち時間の削減、同じ答えの再現、出力の形の指定といった工夫が入っています。
- 一般の人が直接使うものではなく、普段使うサービスの裏側で効いてくるものです。料金への影響は、現時点では分かりません。
- 公開されたのは一部で、対応するモデルやチップも限られます。性能の数字は報道ベースなので、確かめるときは出典に注意してください。
よくある質問
プログラミングができなくても使えますか？
直接使うことは想定されていません。入手先はGitHubで、使うにはLinuxやPython 3.12の環境を整えて自分でビルドする必要があります。一般の人は、DeepSeekなどのサービスの裏側で使われるソフトと考えるのが現実的です。
無料で試せますか？
ソフト自体はApache License 2.0で公開されています。資料には使用料の記載がありません。ただし動作対象はNVIDIAのSM100 GPUかHuawei Ascend 950 NPUで、設備の費用は資料から分からず、気軽に試せるとは言えません。
DeepInferとDeepSeekのAIモデルは同じものですか？
別のものです。モデルは質問に答える頭脳の部分で、DeepInferはそれを速く動かすための土台です。公開版が対応しているモデルは、資料1によると現時点でDeepSeek-V4.1-Flashだけです。
普通のパソコンやスマホで動きますか？
資料に書かれた対応ハードウェアは、NVIDIAのSM100 GPUとHuawei Ascend 950 NPUだけです。一般的なパソコンやスマホで動くかどうかは、資料からは確認できません。動作環境もLinuxが前提とされています。
DeepInferを使うとDeepSeekの利用料金は安くなりますか？
DeepSeekは、計算費用と電力を減らしAIをより手頃にしたいという狙いを述べています。ただし、DeepInferの公開で利用料金が下がるかどうかについて、資料には具体的な記載がなく、現時点では分かりません。
