gpu-unlockとは?RTX 30シリーズのAI計算を速くするツールの仕組みと使い方

/ noro_hacks

※本記事には広告リンクが含まれます。

gpu-unlockとは?RTX 30シリーズのAI計算を速くするツールの仕組みと使い方

gpu-unlockは、NVIDIAのゲーム向けグラフィックボード「RTX 30シリーズ」に眠っていた計算の力を、AI向けの処理で引き出す無料公開のソフトウェアです。画像を作るAIなどが5〜6割ほど速くなった例も報告され、開発者の間で名前を見かけるようになりました。ただし基本はLinux向けの実験的なツールで、効き目も一様ではありません。

ひとことで言うと、何をするものですか?

gpu-unlockは、RTX 30シリーズのグラフィックボードで「プロ向け製品の半分」に抑えられていたAI向け計算の速度を、プロ向けと同じ水準まで引き上げるためのソフトウェアです(資料1、Notebookcheck)。

たとえるなら、片側2車線の道路で1車線だけ閉鎖されていたのを、開ける作業のようなものです。道路を広げる工事ではありません。

実際には、カードの中にある「計算の指示を出す速さ」を決める設定値を、パソコンの起動時に書き換えています。資料1によると、対象の計算では指示を出す速さが2倍になります。

※GPUとは: 画像の描画や大量の計算を受け持つ部品です。グラフィックボードの心臓部にあたります。

これまでと何が変わるのか

  • 画像生成AIなど、一部のAI処理が速くなる場合があります。RTX 3090 Tiでの画像生成テストでは、5〜6割ほど処理量が増えた報告があります(資料3)。
  • カードを買い替えなくても、手持ちの対応カードの力を引き出せる可能性があります。
  • 文章を作るAIの「文字を出す速さ」や、ゲームの画面の滑らかさは、大きくは変わらないようです。文字を出す速さは変化なしと報告されています。ゲームは検証した資料がありません。

gpu-unlockとは?誰が作ったものですか?

作者はGitHubのユーザー「Zagitta」さんです(資料3、Notebookcheck)。公開ページの表記は「GPU unlock 1.0.0」で、別名はありません。

形は「Linuxカーネルモジュール」です。※カーネルモジュールとは: パソコンの基本ソフト(OS)の中核部分に差し込む小さな部品のことです。画面を開いて操作するアプリではありません。

ChatGPTのようなサービスとは、役割がまったく違います。ChatGPTはAIを使うためのサービスです。gpu-unlockはAIそのものでもアプリでもなく、AIを動かすパソコンの部品の設定を変える道具です。

なぜ話題になっているのですか?

何が新しいのか

資料1によると、過去の2つの方法の良いところを組み合わせています。1つは、仮想通貨のマイニング専用カード「CMP」を制限解除した手法です。もう1つは、パソコンの起動のごく初期に作業するUEFI方式の「タイミング」です。

大きな利点は、NVIDIAが新しいドライバ(カードを動かす基本プログラム)を出すたびに手作業で書き換えなくてよい点です。※ドライバとは: 部品をOSから使えるようにする制御プログラムのことです。

どんな数字が出ているのか

プロジェクトのページには、RTX 3090 Tiでの測定結果が載っています。電力の上限は450Wで、大きな行列(数の表)のかけ算を測ったものです(資料1)。

計算の種類 導入前 導入後
FP16 87.46 TFLOPS 118.39 TFLOPS
BF16 87.50 TFLOPS 157.41 TFLOPS
TF32 42.58 TFLOPS 82.61 TFLOPS

※TFLOPSとは: 1秒間に何兆回の小数計算ができるかを表す単位です。BF16やFP16は、AIでよく使う「数の表し方」の種類を指します。

BF16で見ると、1秒あたり約87.5兆回が約157兆回になりました。約1.8倍です。

現実のAIではどうか

資料3によると、RedditのRTX 3090 Ti利用者がComfyUI(画像生成の道具)で測り、BF16のモデルで56.1〜58.6%の処理量増を報告しました。8ビット整数(INT8)の計算では0.3%増にとどまり、画像の出力は前後で同一だったそうです。Notebookcheckは同種のテストを「約47〜59%」と伝えており、資料によって幅があります。

周辺の動き

別の開発者による派生版「gpu-unlock-ada」もあります。RTX 4090などの次世代カード向けの実験的な移植で、命令の出る速さが約2倍になった測定が載っています。ただし実際の行列計算では、伸びは形によって12〜34%、ほぼ変わらない場合もあったとされています(資料4)。

開発者向けの掲示板Hacker NewsやGitHubでも取り上げられています。

どうやって速くしているのですか?(仕組み・主な特徴)

1. 計算の指示を出す速さを2倍にする

できること: AI向けの計算(FP16やBF16の掛け算と足し算を、細かい精度でまとめる処理)の指示を出す速さが、2倍になります。対象のチップはGA102、GA103、GA104、GA106です。

仕組み: カード内の「速度選択」の設定値を書き換えます。資料1には、その値を書き込むと記されています。この制限は、プロ向け製品と比べて半分に抑えられていたものです(Notebookcheck)。なぜ抑えられていたのかは、資料には書かれていません。

2. NVIDIA純正ドライバに手を加えない

できること: ドライバを改造せず、カードのBIOSを恒久的に書き換えることもありません(資料3、Notebookcheck)。

仕組み: 純正ドライバがカードに触れる前に、設定の書き換えとFLRを済ませます。※FLRとは: カード単体をまっさらな状態に戻す、ごく小さな再起動のことです。そのあと、無改造のドライバが普通にカードを立ち上げます。

3. 効く処理と効かない処理がはっきりしている

できること: 行列計算が多い処理が速くなります。資料1は、文章AIで長い入力を読み込む部分(プロンプト処理)が14〜36%増、画像生成なども速くなったと記しています。一方、文字を出していく部分と8ビット整数の計算は、ほぼ変わりません。

仕組み: 文字を出す部分は、計算力よりメモリの読み書きの速さで決まる、と資料3は説明します。gpu-unlockはメモリの速さやコアの数を増やしません。出力を比べた報告では、前後で結果は完全に一致していました(資料1)。

4. 複数枚のカードや仮想マシンでも使える

できること: 1台に最大4枚のカード、画面表示に使っているカード、仮想マシンに渡したカードでも、報告があります(資料1)。

5. 土台はカードの起動手順の弱点

できること: 制限を外す方法そのものは、カードが起動するときの保護の仕組みに由来します。

仕組み: 資料2は、複数の制限解除が「起動手順にある同じ根本的な欠陥」を突いていると説明します。起動時に使われる保護用プログラムに、入力の扱いの不具合があるという主張です(資料2)。これはあくまで資料2の記述です。NVIDIAがどう受け止めているかは、資料の範囲では確認できません。

自分に関係はありますか?

直接使うのはどんな人か

向いているのは、次のような人です。

  • RTX 30シリーズのカードを持ち、Linuxで使っている
  • 自分のパソコンで画像生成や文章生成のAIを動かしている
  • 起動設定の変更やコマンド操作に慣れている

向いていないのは、次のような人です。

  • ゲームを速くしたい人(FPSの向上を示す独立した検証は、まだないとされています)
  • Windowsを普段使いしている人(Windows版は実験的な位置づけです)
  • ChatGPTなどのサービスを使うだけの人

普段使うサービスの裏側にgpu-unlockが組み込まれる、という情報は、今回の資料にはありません。当面は「自分のパソコンでAIを動かす人が、自分で入れる道具」と考えるのが無難です。

試された主なカード

下の数字は、各報告者が自分の環境で測った行列計算の伸びです。条件が違うため、そのまま比べられません。

カード 結果 BF16の伸び
RTX 3090 Ti 成功 +68〜80%
RTX 3090 成功 +25〜67%
RTX 3080 10GB 成功 +70〜73%
RTX 3070 成功 +73〜81%
RTX 3060 12GB 成功 約+80%
RTX 3080 Ti 20GB(OEM) 処理は完了したが速度は半分のまま なし
GA103系 報告なし 不明

出典は資料1です。最も低い+25%は、電力を225Wに制限したカードでの結果で、電力の上限が結果に大きく影響します。RTX 3070 Tiはこのモジュールでは未検証で、Windows向けの別方式では成功したとされています。

実際に触るには?(使い方・始め方)

ここからは実際に触ってみたい人向けです。読み飛ばしても全体像は分かります。

入手先はGitHubのZagitta/gpu-unlockです。前提はLinuxと、対応するGeForce 30シリーズのカードです。資料1の手順は、まず次の3行です。

git clone https://github.com/Zagitta/gpu-unlock
cd gpu-unlock
make install

make installは、OSの種類(Arch系、Debian/Ubuntu系、Fedora/RHEL系)を自動で判定してインストールします。途中でsudoのパスワードを聞かれます。作成時にNVIDIAなどの必要なファイルをHTTPSでダウンロードし、SHA-256で検証するとも書かれています。

次に、起動時の設定(カーネルのコマンドライン)に gpu_unlock.targets=all を、既存の設定を残したまま追加します。たとえばFedora/RHELなら次のコマンドです。

sudo grubby --update-kernel=ALL --args="gpu_unlock.targets=all"

Debian/Ubuntu/Mintでは、/etc/default/grub の GRUB_CMDLINE_LINUX_DEFAULT の中に追記し、sudo update-grub を実行します。Arch系、systemd-boot、UKIの手順も資料1にあります。

パッケージは、NVIDIAのドライバが起動する前に読み込まれるように組み込まれます。ただし今回の資料1は途中までしか確認できておらず、再起動を含む最後の手順や元に戻す方法の詳細は、ここでは確認できません。実行前に公式ページの最新の説明を読んでください。成功した場合も失敗した場合も、互換性レポートの投稿が呼びかけられています。

注意点や、まだ分かっていないことは?

  • 実験的なツールです。 Notebookcheckは、普段使いのゲーミングPCに入れるのはリスクがあると述べています。
  • 効き目は一様ではありません。 RTX 3080 Ti 20GB(OEM)では効果が出ず、GA103系の報告はまだありません。資料3も、全てのカードで性能向上を保証できないと書いています。
  • 数字は資料によって違います。 文章AIの長い入力の処理は、資料1で14〜36%増、資料3で33%増、Notebookcheckで16%増です。報告者ごとに条件が違うためとみられますが、理由は各資料に書かれていません。
  • ゲームへの効果は未確認です。 DLSSなどもテンソルコアを使いますが、FPSの向上を示す独立した検証はないとされています。
  • 長期の安定性や、発熱・電力への影響は、資料の範囲では確認できません。
  • ライセンスや保証への影響も、資料からは確認できません。 NVIDIAの見解、修正対応、将来のドライバ更新で使えなくなる可能性についても、同様です。
  • 料金は無料と報じられていますが、ライセンスの条件が不明なため、商用利用などは公式ページで確認する必要があります。
  • Windows版は実験的です。 資料3は、RTX 3090でBF16が約82.5%伸びた成功例を伝えますが、特定の環境に限られる、一般向けの公式版ではないとしています。
  • 別の開発者による派生版(資料4)は、さらに実験的です。

まとめ

  • gpu-unlockは、RTX 30シリーズのAI向け計算を速くする、無料公開の実験的なLinux用ツールです。
  • 画像生成や、文章AIの長い入力の読み込みで、数割〜5割超の速度向上が報告されています。
  • 文字を出していく速さや、ゲームの速さは、大きく変わるとは確認されていません。
  • 使うのは主に、自分のパソコンでAIを動かすLinuxユーザーです。サービスの裏側に組み込まれるという情報はありません。
  • 効果が出ないカードもあり、ライセンスや保証、長期の安定性は資料からは分かりません。導入前に最新の公式情報を確認してください。

よくある質問

プログラミングができなくても使えますか?

おすすめしにくいです。Linuxを使い、ターミナルでコマンドを実行し、起動設定も書き換える必要があります。画面を開いて押すだけのアプリではありません。ふだんChatGPTなどを使うだけの人は、直接触る場面はほぼありません。

無料で試せますか?

GitHubで公開されているオープンソースで、報道では「無料」と紹介されています。ただし対応するRTX 30シリーズのカードが必要です。ライセンスの条件は、今回確認した資料の範囲では分かりませんでした。

ゲームも速くなりますか?

現時点では確認できていません。Notebookcheckは、FPSの向上を裏づける独立した検証はまだないと伝えています。効果が報告されているのは、画像生成AIなど行列計算の多いAI処理です。

どのグラフィックボードで使えますか?

対応しているのはGA102、GA103、GA104、GA106という種類のチップです。RTX 3090 Ti、3090、3080、3070、3060 12GBなどで成功報告があります。一方、RTX 3080 Ti 20GB(OEM)では効果が出ませんでした。

ChatGPTの返事が速くなりますか?

直接は関係ありません。gpu-unlockが効くのは、自分のパソコンでAIを動かす場合です。そのうえ、文章を作る速度は変わらず、長い入力を読み込む部分が速くなる程度と報告されています。

関連記事