Unsloth×AMD NPU対応とは?何が発表されたのか
まとめ
Unsloth×AMD NPU対応の要点
- UnslothがAMDと協業し、AMD XDNA 2 NPU上でのローカルモデル推論に対応
- 発表はAMDニュースルームで2026年11月19日付
- AMD XDNA 2 NPUは「Unsloth Desktopが対応した初のNPU」であり、NPU自体が世界初という意味ではない
- Unsloth DesktopのAPI経由で100以上のエージェント型AIアプリやワークフローがNPU推論にアクセス可能
- NPUはトークン生成あたり従来GPUより2〜4倍少ない電力で動作(性能ではなく電力効率の話)
- GPUをエージェントに占有されずNPUに逃げ道を作れる点が実務的に大きい
室谷代表取締役Unsloth(アンスロス)がAMDと協業して、AMD XDNA 2 NPU上でのローカルモデル推論に対応したんですよね。AMDのニュースルームで2026年11月19日に発表されています。
これ、地味に見えてローカルAIの使い方が変わる話だと思っていて。
これ、地味に見えてローカルAIの使い方が変わる話だと思っていて。
テキトー教師DotAI 認定講師そうなんですよ。単に「NPUに対応しました」な話じゃないんです。
AMD XDNA 2 NPUは、Unsloth Desktopが初めて対応したNPUだと明言されています。つまりUnslothにとってNPU対応の第一号がAMDだった、という発表の構造になっています。
AMD XDNA 2 NPUは、Unsloth Desktopが初めて対応したNPUだと明言されています。つまりUnslothにとってNPU対応の第一号がAMDだった、という発表の構造になっています。
室谷代表取締役発表の主語はあくまでUnslothとAMDですからね。で、内容としては、Unsloth DesktopのAPI経由で、100以上のエージェント型AIアプリやワークフローがNPU推論にアクセスできるようになった、と。
テキトー教師DotAI 認定講師ここは整理しておきたいです。発表元はUnslothで、協業相手がAMD。
AMD側の発表では「AMD XDNA 2 NPUが、Unsloth Desktopが対応する世界初のNPU」と表現されています。
AMD側の発表では「AMD XDNA 2 NPUが、Unsloth Desktopが対応する世界初のNPU」と表現されています。
室谷代表取締役「世界初」の主語がどこにかかっているかが大事で。NPUそのものが世界初なのではなく、Unsloth Desktopが対応したNPUとして初、という意味です。
ここを読み違えると記事がおかしくなるやつですね。
ここを読み違えると記事がおかしくなるやつですね。
テキトー教師DotAI 認定講師まさにそこです。あと、NPUはトークン生成あたり従来のGPUより2〜4倍少ない電力で動く、というのがUnsloth側の説明です。
性能の話ではなく電力効率の話として読むのが正しい。
性能の話ではなく電力効率の話として読むのが正しい。
室谷代表取締役MYUUUでもローカル推論の検証はよくやるんですけど、GPUをエージェントに占有されると他の作業が止まるのが地味に痛いんですよ。そこにNPUという逃げ道ができるのは実務的に大きいです。
AMD XDNA 2 NPUで何ができる?100以上のエージェント型AIアプリが低電力推論
AMD XDNA 2 NPU上でLLMが対応する機能・ツール
LLM推論機能
ストリーミング応答、推論(reasoning)、ビジョン、ツール呼び出し、スキル、MCPサーバー、ウェブ検索、ローカル文書チャット、ローカルファイルを使ったコーディングに対応
対応エージェントツール
Hermes Agent、OpenClaw、Open WebUI、Cline、LangChain、GitHub CopilotがUnsloth DesktopのAPI経由でNPU上のモデルにリクエスト
OpenAI互換エンドポイント
既存のエージェント系ツールの多くがOpenAI互換API前提のため、NPU推論を低い実装コストで差し込める
注意点
何でもNPUで動くわけではなく、モデル形式の制約がある
テキトー教師DotAI 認定講師何ができるかをもう少し具体化しましょう。Unslothのドキュメントによると、NPU上でLLMを動かせて、ストリーミング応答、推論(reasoning)、ビジョン、ツール呼び出し、スキル、MCPサーバー、ウェブ検索、ローカル文書とのチャット、ローカルファイルを使ったコーディングまで対応するとされています。
室谷代表取締役結構フルスタックなんですよね。単にチャットが動くだけじゃなくて、エージェント的な使い方が想定されている。
だからこそ「100以上のエージェント型アプリ」という表現が出てくるわけで。
だからこそ「100以上のエージェント型アプリ」という表現が出てくるわけで。
テキトー教師DotAI 認定講師対応ツールとして名前が挙がっているのは、Hermes Agent、OpenClaw、Open WebUI、Cline、LangChain、GitHub Copilotです。これらがUnsloth DesktopのAPIにつながって、NPU上のモデルにリクエストを投げられる、という構造です。
室谷代表取締役OpenAI互換のエンドポイントが用意されているのがポイントで。既存のエージェント系ツールはOpenAI互換APIを前提にしているものが多いので、そこにNPU推論を差し込めるのは実装コストが低いんですよ。
テキトー教師DotAI 認定講師講座でも「ローカルLLMをエージェントに繋ぎたいけどGPUが足りない」という相談はよく出ます。受講生さんにとっては、繋ぎ先の選択肢が1つ増えたという理解でいいと思います。
室谷代表取締役ただ、何でもNPUで動くわけじゃないですからね。モデル形式の制約は後で触れますが、そこが今回の一番の注意点です。
Unsloth Desktopの仕組み――Lemonade・FastFlowLM経由でNPU推論はどう動くか
Unsloth DesktopのNPU推論フロー
- 1アプリがAPIにリクエスト対応アプリがUnsloth DesktopのAPIにモデルリクエストを送る
- 2Lemonade・FastFlowLMが処理NPU上でのモデル配信と推論を担当
- 3応答をアプリへ返却モデルの応答がアプリに返る
- 4CPU/GPUは他処理を継続オーケストレーションや他の機能はCPU/GPUが担い、GPUを占有しない
テキトー教師DotAI 認定講師仕組みを整理するとこうです。まず対応アプリがUnsloth DesktopのAPIにモデルリクエストを送る。
するとLemonadeとFastFlowLMがNPU上でのモデル配信と推論を処理する。モデルの応答がアプリに返り、アプリの他の機能はCPUやGPUを必要に応じて使い続ける、という流れです。
するとLemonadeとFastFlowLMがNPU上でのモデル配信と推論を処理する。モデルの応答がアプリに返り、アプリの他の機能はCPUやGPUを必要に応じて使い続ける、という流れです。
室谷代表取締役丸投げじゃなくて分業なんですよね。NPUはモデル推論だけを加速して、オーケストレーションや他の処理はCPU/GPUに残る。
この設計が「GPUを占有しない」という訴求につながっています。
この設計が「GPUを占有しない」という訴求につながっています。
テキトー教師DotAI 認定講師Unslothのドキュメントでは、LemonadeとFastFlowLMをUnslothが自前で管理すると書かれています。ランタイム、設定、モデルのフォルダを分けて持っていて、ランタイムのダウンロードは特定バージョンに固定され、SHA-256チェックサムで検証される。
室谷代表取締役セキュリティ面も書かれていて、管理下のLemonadeサーバーは自分のPCからの接続しか受け付けず、起動のたびに新しい認証キーを使うと。モデルをアンロードすればNPUから解放されるし、Unslothを終了すれば管理ランタイムも止まる。
テキトー教師DotAI 認定講師NPU機能自体を隠したい場合は、起動前にUNSLOTH_STUDIO_ENABLE_NPU=0を設定すればランタイムも起動しない。企業端末で管理したい場合に効いてくる設定ですね。
室谷代表取締役あとNPUはQ4NXという専用の4bitモデル形式を使うんですよ。FastFlowLM向けに作られたモデルで、GGUFをそのままNPUに放り込むわけにはいかない。
ここは最初に理解しておかないと「動かない」で詰まります。
ここは最初に理解しておかないと「動かない」で詰まります。
テキトー教師DotAI 認定講師その変換の話も面白くて。ExportページでGGUFをQ4NXに変換できるんですが、変換自体はCPUで走るので、学習は任意のGPUでやって、GGUFに書き出して、Ryzen AI PC側で変換する、という分業ができると。
室谷代表取締役学習はGPU、推論はNPUという役割分担がきれいに成立するわけですね。これは実務のワークフローとしてかなり素直です。
対応PCと対応ツール一覧――Strix・Gorgon・KrackanなどRyzen AI搭載機で使える範囲
テキトー教師DotAI 認定講師対応ハードを整理するとこうです。
- プロセッサ: AMD Ryzen AI 300(Strix Point、Krackan Point)、Ryzen AI Max(Strix Halo)、Ryzen AI 400(Gorgon Point)で、XDNA 2以降のNPUを搭載していること
- OS: Windows 11またはLinux(x64)
- Linuxの場合: カーネル7.0以降でamdxdnaドライバ、または古いカーネルならamdxdna-dkms。加えてNPUファームウェアの更新とmemlock設定の無制限化が必要
室谷代表取締役将来のAMDデバイスで統合NPUを積むものもサポート対象と書かれているので、StrixやGorgon、Krackanといった現行のラインナップに限った話ではないんですよね。
テキトー教師DotAI 認定講師対応ツールは先ほど挙げたHermes Agent、OpenClaw、Open WebUI、Cline、LangChain、GitHub Copilotが明示されています。これに加えてOpenAI互換エンドポイントに繋がるアプリやスクリプトなら広く使える、というのがUnsloth側の説明です。
室谷代表取締役ここで大事なのは「100以上」という数字の意味で。個別に100個のアプリ名が保証されているというより、OpenAI互換APIに繋がるエージェント型アプリやワークフローが100以上ある、という数え方なんですよ。
テキトー教師DotAI 認定講師なので、自分の使っているツールがOpenAI互換でエンドポイントを差し替えられるなら、候補に入る可能性が高い。逆に独自プロトコル前提のツールは素直には繋がらない、と。
室谷代表取締役あとNPUモデルはモデルピッカーのNPUセクションに出てくる仕様で、対応PCなら自動で表示される。ここは親切設計ですよね。
Unsloth Desktopの使い方・始め方――NPU搭載PCでローカル推論を動かす手順
テキトー教師DotAI 認定講師始め方を整理するとこうです。まずUnsloth DesktopかUnsloth Web UIをインストールする。
対応するRyzen AI PCならモデルピッカーにNPUセクションが自動で出ます。
対応するRyzen AI PCならモデルピッカーにNPUセクションが自動で出ます。
室谷代表取締役次にモデルピッカーのフィルタをAllからNPUに変えて「Enable NPU」を押す。これは初回だけのセットアップで、UnslothがFastFlowLMをダウンロードしてNPUドライバのバージョンを確認してくれる。
テキトー教師DotAI 認定講師足りないものがあれば、ドライバやファームウェアが古い、カーネルがNPU非対応、memlock制限が低すぎる、といった原因をUnslothが具体的に教えてくれて、ドライバページへ直接リンクしてくれると。
室谷代表取締役セットアップが終わればNPUモデルが一覧に出るので、NPUでフィルタしてクリックすればダウンロードとロードが走る。あとはチャットするだけ。
ブラウザキャンバスへのアクセスやスキルの設定もできて、速度はトークン/秒で表示される。
ブラウザキャンバスへのアクセスやスキルの設定もできて、速度はトークン/秒で表示される。
テキトー教師DotAI 認定講師ターミナルやAPIから使う場合は、unsloth runコマンドでモデルをサーブできます。ドキュメントの例だとQwen3.6-35B-A3B-NPU2をコンテキスト長16384でロードする形ですね。
室谷代表取締役そのときに表示されるベースURLとAPIキーをOpenAI互換のチャットアプリやスクリプトに渡せばいい。すでにUnslothが動いていればunsloth chatで対話もできます。
テキトー教師DotAI 認定講師設定項目も押さえておきたいです。コンテキスト長はデフォルトのAutoだとモデルロード時の空きRAMに合わせて決まる。
Power ModeはPower saver、Balanced、Performance、Turboの4段階で、FastFlowLMのデフォルトはPerformanceです。
Power ModeはPower saver、Balanced、Performance、Turboの4段階で、FastFlowLMのデフォルトはPerformanceです。
室谷代表取締役バッテリー駆動ならPower saverかBalanced、電源接続で最速を狙うならTurbo、という使い分けが書かれています。Prefill Chunk Lengthはデフォルト4096で、長いプロンプトの初回トークンまでの時間に効く。
画像を読むモデルならImage Pre-resizeで480pから1440pまで縮小指定できる。
画像を読むモデルならImage Pre-resizeで480pから1440pまで縮小指定できる。
テキトー教師DotAI 認定講師設定変更は次回のモデルロード時に反映されるので、すぐ使いたいときはReload modelを押す必要があります。ここは受講生さんがよくハマるポイントですね。
室谷代表取締役あとNPUで動くモデルはQ4NX形式に限られるので、GGUFしか持っていない場合はExportページで変換する。この順番を覚えておけば迷わないです。
GPUとNPUはどう使い分ける?電力2〜4倍削減が意味する実務メリット
テキトー教師DotAI 認定講師ここが今回の一番おいしいところです。Unslothの説明では、NPUはトークン生成あたり従来のGPUより2〜4倍少ない電力で動く。
つまり同じ仕事をより少ない電力でこなせる、という話です。
つまり同じ仕事をより少ない電力でこなせる、という話です。
室谷代表取締役で、これは「NPUのほうが速い」という話ではないんですよね。速さの話と電力の話を混ぜると誤解を生む。
ドキュメントの実測値を見ても、モデルによってトークン/秒はかなり幅があります。
ドキュメントの実測値を見ても、モデルによってトークン/秒はかなり幅があります。
テキトー教師DotAI 認定講師実際、公開されている計測値はこうです。
| モデル | サイズ | 推奨RAM | tok/s | TTFT |
|---|---|---|---|---|
| Qwen3.6-35B-A3B-NPU2 | 20.6GB | 64GB | 17.2 | 3.13秒 |
| Qwen3.8-27B-NPU2 (MTP) | 18.1GB | 48GB | 2.0 | 3.80秒 |
| Gemma4-12B-IT-NPU2 | 8.7GB | 32GB | 6.8 | 1.70秒 |
| Qwen3.5-9B-NPU2 | 7.6GB | 32GB | 9.5 | 1.11秒 |
| Qwen3-VL-4B-Instruct-NPU2 | 3.9GB | 16GB | 20.5 | 1.05秒 |
| LFM3-1.7B-NPU2 | 1.5GB | 16GB | 40.7 | 0.12秒 |
室谷代表取締役見てのとおり、大きいモデルは遅く、小さいモデルは速い。当たり前なんですけど、NPUに載せれば全部サクサク、みたいな期待はしないほうがいいです。
テキトー教師DotAI 認定講師使い分けの指針はシンプルです。GPUは学習や画像・動画生成など重い処理に使い、NPUは常時動かすエージェントの推論に使う。
そうすればGPUをゲーミングやレンダリングに残せる。
そうすればGPUをゲーミングやレンダリングに残せる。
室谷代表取締役ドキュメントの例が分かりやすくて、NPUでローカルモデルとチャットしながら、Radeon GPUで動画をレンダリングする、という並行利用が挙げられています。Ryzen AI Max(Strix Halo)ならGPUがシステムメモリを大きく使えるので、専用VRAMが少ないGPUより大きいモデルが載る場合がある、と。
テキトー教師DotAI 認定講師ただし利用可能なメモリはPCの構成次第です。ここは一般化しないほうがいい。
室谷代表取締役あとエージェントは終日動くので、電力効率の差がそのまま発熱やバッテリーの差になるんですよ。ノートPCでエージェントを走らせっぱなしにするなら、NPUに逃がす価値はかなりあると思います。
テキトー教師DotAI 認定講師逆に、単発の重い生成を最速で回したいならGPUのほうが素直です。役割が違うので、どちらが上という話ではないんですよね。
室谷代表取締役ちなみにAMD GPUでのUnsloth自体の話は別で、そちらはRadeon RDNA 3/3.5/4(RX 6000〜9000シリーズ)やMI300X(192GB)に対応し、最大2倍高速・約70%少ないメモリでファインチューニングできると公式ドキュメントにあります。NPU対応はその延長線上にある、と。
テキトー教師DotAI 認定講師料金と提供範囲――Unsloth Desktopは無料か、日本でいつから使えるか
テキトー教師DotAI 認定講師料金の話も整理しておきます。Unsloth Desktopはベータ版で、無料・オープンソースのデスクトップアプリです。
macOS、Windows、Linuxで提供されています。
macOS、Windows、Linuxで提供されています。
室谷代表取締役つまりNPU対応自体に追加課金はない、という理解でいいんですよね。ソース上は無料・オープンソースとしか書かれていないので、そこは素直に読みます。
テキトー教師DotAI 認定講師日本での提供開始時期について個別の告知は、今回の資料では確認できません。現時点では明らかにされていません。
ただしアプリ自体は無料で配布されていて、対応PCとOS条件を満たせば地域を限定する記述は見当たりません。
ただしアプリ自体は無料で配布されていて、対応PCとOS条件を満たせば地域を限定する記述は見当たりません。
室谷代表取締役対応OSがWindows 11とLinux(x64)なので、macOS版のUnsloth DesktopはあってもNPU推論はRyzen AI PCの話、という切り分けは必要です。
テキトー教師DotAI 認定講師そこは混同しやすいので、記事としてもしっかり書いておきたいところですね。
よくある質問
室谷代表取締役最後に、よく聞かれそうな点を整理しておきます。
テキトー教師DotAI 認定講師まず「NPUはGPUの代わりになるのか」。これはUnslothのFAQでも扱われていて、答えは「代替ではなく選択肢」です。
GPUは学習や画像・動画生成に残り、NPUは推論を担う。役割分担の話です。
GPUは学習や画像・動画生成に残り、NPUは推論を担う。役割分担の話です。
室谷代表取締役「任意のGGUFをNPUで動かせるか」もよく聞かれますね。答えはNoで、NPUはQ4NXという専用形式を使います。
GGUFはExportページでCPU上で変換する必要があります。
GGUFはExportページでCPU上で変換する必要があります。
テキトー教師DotAI 認定講師「NPUが表示されない」場合は、ドライバやファームウェアが古い、カーネルがNPU非対応、memlock制限が低すぎる、といった原因が想定されていて、Unslothが具体的に案内してくれます。
室谷代表取締役「NPUを使うとGPUは使えなくなるのか」という質問も来そうですが、アプリの他の機能はCPUやGPUを必要に応じて使い続ける、と公式に書かれています。並行利用が前提の設計なんですよね。
テキトー教師DotAI 認定講師「学習もNPUでできるのか」については、今回の資料ではNPU推論の話が中心で、学習をNPUで行うとは書かれていません。学習はGPU側の役割として説明されています。
室谷代表取締役そこは期待しすぎないほうがいいですね。あくまで推論のオフロード先が増えた、というのが今回の発表の核心です。
テキトー教師DotAI 認定講師まとめると、Unsloth DesktopがAMD XDNA 2 NPUに対応したことで、Ryzen AI PCを持っている人はGPUを空けたままエージェントを動かせるようになった。ただしQ4NX形式とドライバ要件という前提がある。
この2点を押さえれば十分です。
この2点を押さえれば十分です。
室谷代表取締役ローカルAIのボトルネックは性能だけじゃなくて「他の作業と取り合いになる」ことなので、そこに対する実用的な答えが1つ出たのは大きいです。手元にRyzen AI機がある人は、まずEnable NPUを押すところから試してみるといいと思います。
