2026年11月22日

Qwen3.5-9Bとは?120B級に勝る項目を持つ小型マルチモーダルモデルの実力と限界

Qwen3.5-9Bとはどんなモデルか:公開の経緯と基本スペック

大きい方から先に出てきた、少し変わった公開の順番

室谷室谷代表取締役
Qwen3.5-9B、名前だけ見ると「小型の新作」って印象なんですけど、出てきた順番が面白くて。シリーズの皮切りが2026年2月17日の397B-A17B、つまりフラッグシップなんですよね。
テキトー教師テキトー教師DotAI 認定講師
大きい方から先に出すのは珍しい気がします。普通は小さいので様子を見ませんか。
室谷室谷代表取締役
そこがQwenのやり方で。2月24日に27Bのdenseと35B-A3B、122B-A10Bという中間帯を並べて、3月2日に0.8B、2B、4B、9BのSmallシリーズ。

旗を立ててから階層を埋めていく順番なんですよ。
テキトー教師テキトー教師DotAI 認定講師
なるほど、9Bは最後に来た「締め」の枠なんですね。初めて触る人は小型から入りがちなので、この位置づけを知っておくと迷いが減ります。

「10B params」と表示されるのに9Bと呼ばれる理由

テキトー教師テキトー教師DotAI 認定講師
ここで地味に混乱するのが、Hugging Faceのモデルページに「10B params」と出るのに、みんな9Bと呼ぶところで。現場でよく聞くのは「9Bって書いてあるのに10Bと表示されるんですが」という戸惑いです。
室谷室谷代表取締役
それは数え方の差で、言語モデル本体が9B、そこに視覚エンコーダーを足した合計が10B、という整理なんですよね。中身が盛られてるわけじゃなくて、目を含めたら10B、と。
テキトー教師テキトー教師DotAI 認定講師
じゃあ「本体9B+目」くらいの理解で読めばいいんですね。数字が2つ出てくると身構えてしまうんですよ。
室谷室谷代表取締役
そう。スペック表を見るときは、どちらの数字を見ているのかを意識するだけで十分です。

26万トークンのコンテキストと、拡張が効く場面

室谷室谷代表取締役
コンテキストはネイティブで262,144トークン。YaRNのスケーリングで最大1,010,000トークンまで伸ばせる、とモデルカードに書かれています。

長い資料を丸ごと放り込める土台がある、ということですよね。
テキトー教師テキトー教師DotAI 認定講師
数字だけ見ると夢がありますけど、長く使うほどKVキャッシュが膨らむんですよ。初めて触る人が最初に戸惑うのがまさにそこです。
室谷室谷代表取締役
拡張は「できる」であって「タダ」じゃないんですよね。経営目線で言うと、コンテキストは能力であると同時にコストで、積むほどメモリと待ち時間に跳ね返ってくる。
テキトー教師テキトー教師DotAI 認定講師
なので普段は素直に26万の範囲で回して、必要なときだけ伸ばす、くらいの構えが現実的だと思います。

テキスト・画像・動画を同じ土俵で扱うネイティブ設計

テキトー教師テキトー教師DotAI 認定講師
マルチモーダルって言葉だけ聞くと「画像も読めるのね」で終わりがちなんですけど、このモデルはテキスト・画像・動画のトークンを早い段階で混ぜて学習する作りになっていて。後付けの目ではないんですよ。
室谷室谷代表取締役
最初から目がある前提の設計だから、前世代のQwen3-VLシリーズを推論や視覚理解のベンチマークで上回る、と。動画まで同じ土俵で扱えるのは、現場だと効く場面があるんですよね。
テキトー教師テキトー教師DotAI 認定講師
ただ、動画をどこまで細かく見られるかは入力の作り方に左右されるので、まずは短いクリップで試すのがおすすめです。いきなり長尺を投げると期待とズレますから。
室谷室谷代表取締役
対応言語も201まで広がってるので、日本語込みで素直に使える土台はある。あとは構造の話になるので、そこは次で見ましょうか。

Gated DeltaNetとMoEのハイブリッド構造は性能にどう効くのか

4ブロックに3つ、線形注意に置き換わった層構成

室谷室谷代表取締役
このモデルの層構成、8×(3×(Gated DeltaNet→FFN)→1×(Gated Attention→FFN))なんですよ。要はTransformerブロック4つのうち3つを線形注意に置き換えてる構造なんですよね。
テキトー教師テキトー教師DotAI 認定講師
数字だけ見ると「ほぼ線形注意じゃないか」と思うんですけど、隠れ層4096・32層あるうち、従来型が顔を出すのは4ブロックに1回だけなんですよ。
室谷室谷代表取締役
長いコンテキストを丸ごと読ませるとき、注意の計算が素直に効く部分とコストが膨らむ部分が分かれてる。運用コストの見積もり的には、ここがかなり効いてくるんですよね。
テキトー教師テキトー教師DotAI 認定講師
現場感覚で言うと、262,144トークンを扱うときに全部を同じ重さで見に行く設計は計算量が跳ねるんです。3/4を軽い機構に逃がすのは素直な発想だと思います。

Softmax Attentionを1枚だけ残した理由をどう読むか

室谷室谷代表取締役
で、なんで1枚だけ残したのか。ここが設計意図として一番おいしいところですよね。
テキトー教師テキトー教師DotAI 認定講師
線形注意だけだと、離れた位置の情報を選び直すのが苦手なんですよ。だから要所で従来型を挟む。

16ヘッドQ・4ヘッドKVのGated Attentionを定期的に噛ませる発想ですね。
室谷室谷代表取締役
なるほど。全部を新機構にすると壊れる領域があるから、全体重み付けを担う層を抜けないように残した、と読めるわけですね。
テキトー教師テキトー教師DotAI 認定講師
初めて触る人は「ハイブリッド=妥協」と受け取りがちなんですけど、実態は役割分担なんです。長文理解のLongBench v2で55.2という数字が出てるのも、その分担が効いてる側の表れだと読めます。

201言語対応とThinking既定オンが実運用に与える影響

室谷室谷代表取締役
実運用で効くのが、対応言語・方言が201に増えてる点と、Thinkingモードがデフォルトで有効になってる点なんですよね。前世代は119だったので、かなり広げてきてます。
テキトー教師テキトー教師DotAI 認定講師
多言語は素直にありがたいんですけど、Thinking既定オンは現場でよく聞くつまずきで。出力が長くなるので、ローカルだとKVキャッシュが膨らむ方向に効きます。
室谷室谷代表取締役
切る手順は公式に用意されていて、APIパラメータでchat_template_kwargsのenable_thinkingをfalseにする、Alibaba Cloud Model Studio経由ならenable_thinkingをfalseにする。まずここを押さえるのが安全なんですよね。
テキトー教師テキトー教師DotAI 認定講師
補足すると、/think・/nothinkのソフトスイッチはQwen3側の機能で、Qwen3.5では公式サポートの対象外なんです。ローカルのUIで慣習的に使われてるのは見かけますけど、動作は環境依存なので過信しないほうがいいですよ。

出力長の目安も公式が出していて、通常は32,768、数学やプログラミング競技のような複雑な問題では81,920トークンです。

ベンチマークの実力:9Bで120B級に勝つ項目と届かない項目

勝っている項目:知識・指示追従・長文理解・視覚理解

室谷室谷代表取締役
公式モデルカードで9BがGPT-OSS-120Bと並べられてるんですけど、勝ってる項目がちゃんとあるんですよ。GPQA Diamondが81.7対80.1、LongBench v2が55.2対48.2、IFEvalが91.5対88.9。

パラメータが1桁違うのにこの差は、素直に変なんですよね。
テキトー教師テキトー教師DotAI 認定講師
現場でよく聞くのは「思った通りに返ってこない」で詰まるパターンなんですけど、IFEvalの91.5はそこに効きます。指示追従が素直だと、初めて触る人のつまずきが減るんですよ。
室谷室谷代表取締役
MultiChallengeも54.5対45.3ですからね。長い文脈を保ったままの質疑応答、たとえば社内ドキュメントを読ませてのやり取りだと、わざわざ120B級を回す理由が薄れる。

MYUUUでも、そこは小さく済ませたい領域なんです。
テキトー教師テキトー教師DotAI 認定講師
視覚側も面白いんですよ。MMMU-Proは70.1で、同じVision Language表で比べられているGPT-5-Nano-2025-08-07の57.2、Gemini-2.5-Flash-Liteの59.7、Qwen3-VL-30B-A3Bの63.0を上回ってます。

ただこの表にGPT-OSS-120Bは入ってないので、そこを混ぜて読むと数字を誤解するんですよね。

負けている項目:数学コンテスト系と難度の高いコード生成

室谷室谷代表取締役
数字を並べるとこうです。
ベンチマークQwen3.5-9BGPT-OSS-120B
GPQA Diamond81.780.1
LongBench v255.248.2
IFEval91.588.9
MultiChallenge54.545.3
HMMT Feb 2583.290.0
HMMT Nov 2582.990.0
LiveCodeBench v665.682.7
OJBench29.241.5
室谷室谷代表取締役
上4行が勝ち、下4行が負け。HMMTの数学コンテスト系とLiveCodeBench v6、OJBenchの競プロ寄りは、9Bでは届かないんですよ。
テキトー教師テキトー教師DotAI 認定講師
ここで「コードはダメなんだ」と結論づける人が多いんですけど、指標の性格が違うんですよね。OJBenchみたいな競プロ寄りの採点は、正解を厳密に通す力を見てる。

日常の関数を書かせるのとは別の筋力なんですよ。
室谷室谷代表取締役
だから線引きの話になるんです。うちだと、コード生成を任せる範囲を関数単位までに切って、設計判断は人に残す。

そういう切り方のほうが現実的で、点数を過信しないほうがいいんですよね。
テキトー教師テキトー教師DotAI 認定講師
「難問の山では素直に負ける」と読むのが正確で、そこを前提に置けば、9Bは十分戦えるやつなんですよ。

第三者計測(Artificial Analysis)で見える別の景色

室谷室谷代表取締役
公式のカードだけじゃなくて、第三者の計測もあって。Artificial AnalysisだとGPQA Diamond(Reasoning)が80.6%、IFBenchが66.7%、τ²-Bench Telecomが86.8%なんですよ。
テキトー教師テキトー教師DotAI 認定講師
公式の81.7に対して80.6なので、概ね再現されてるのが分かるんですよね。ここは素直に読める数字です。
室谷室谷代表取締役
ただ同じ計測でHLEが14.9%、SciCodeが29.5%。人間向けの超難問と研究寄りの科学コードは、さすがに取れない。

ツールで補う前提の数字なんですよ。
テキトー教師テキトー教師DotAI 認定講師
初めて触る人は、この落差にびっくりするんです。平均点じゃなくて項目ごとに見る、というのが前提なんですね。

数字の読み方:点数が高い領域に仕事を寄せるという発想

室谷室谷代表取締役
経営目線で言うと、モデル選びって「最強を1本」じゃなくて「仕事を寄せる」ほうが効くんですよ。指示追従と長文読解が強いなら、社内文書の処理は9Bに寄せて、重い推論だけ上位に投げる。
テキトー教師テキトー教師DotAI 認定講師
その振り分けは、現場でよく聞くやり方ですね。全部を1個でやろうとすると、どこかで無理が出るんです。
室谷室谷代表取締役
コストで見ても、9Bを自前で回せるなら固定費で済む。使う量が増えるほど単価が下がるので、ROIで言えば出量のある業務から置き換えるのが定石なんですよね。
テキトー教師テキトー教師DotAI 認定講師
逆に、数学コンテスト級の問題や難度の高いコードを日常的に投げるなら、最初から大型を選んだほうが早いんです。何でも屋じゃないところが、この子の性格なんですよ。

商用利用はできる?Apache 2.0ライセンスの範囲を確認する

ライセンスは商用利用まで開かれているのか

室谷室谷代表取締役
Qwen3.5-9B、ライセンスはApache License 2.0なんですよね。商用利用も改変も再配布も無償でいける。

表記はCopyright 2026 Alibaba Cloud。ここは素直に追い風だと思います。
テキトー教師テキトー教師DotAI 認定講師
たしかに。ただ現場でよく聞くのは「オープンウェイト=商用はグレーでしょ」という思い込みなんですよ。

最初にそこを外せるかどうかで、社内の検討スピードが変わります。
室谷室谷代表取締役
ライセンス確認待ちでPoCが止まる、みたいなことが起きがちなんですよね。経営目線で言うと、法務に投げる前段で「Apache 2.0です」と言えるだけで数週間の差になる。

ここは小さくないコストなんですよ。
テキトー教師テキトー教師DotAI 認定講師
その数週間、地味に痛いですよね。ただし条件がゼロではないので、実務の話は外せないんですけど。

自由に見えて残る実務の宿題

テキトー教師テキトー教師DotAI 認定講師
Apache 2.0は「無料で使える」で終わらなくて、ライセンス文の同梱や、改変した場合の明示といった条件が残ります。条文そのものは配布物のLICENSE表記で確認するのが確実です。
室谷室谷代表取締役
あと見落としがちなのが依存物ですよね。モデル本体がApacheでも、周辺の重みや同梱スクリプトが別ライセンスだったりする。

9Bは視覚エンコーダー込みのマルチモーダルなので、そのあたりも一緒に棚卸ししたいところです。
テキトー教師テキトー教師DotAI 認定講師
初めて触る人は「モデルカードだけ読めばOK」と思いがちなんですけど、実際は配布物全体を見る必要があるんですよ。ここ、ハマる人多いです。
室谷室谷代表取締役
チェックリストに一行足すだけで済む話なので、開発が走り出す前にやるのが一番安いんですよね。後から直す方が高い。

オープンウェイトで自社運用か、APIを選ぶか

室谷室谷代表取締役
で、経営判断として出てくるのが自社でホストするかAPIを叩くか。モデルカードにはvLLMやSGLangでの起動コマンドが載っているので、技術的には自前で立てられます。
テキトー教師テキトー教師DotAI 認定講師
現場感覚で言うと、最初から自前で立てるより、まずAPIで当てて「うちの業務で効くのか」を見る方が失敗が少ないんですよ。GPUを押さえた時点でコストが確定しちゃいますから。
室谷室谷代表取締役
そうなんですよね。ライセンスが自由でも、GPUの固定費は自由じゃない。

そこを取り違えると判断を誤る。量子化して手元に置く前提なら、Unslothの「DeepSeek-V4.1-Flash-1017」GGUFとは?Dynamic V3.1で量子化あたりの話が参考になると思います。
テキトー教師テキトー教師DotAI 認定講師
ライセンスは入口、コストは出口、みたいな。両方見てから決めたいですね。

ローカル実行に必要なVRAMは何GBか:12GBで動くという話と動かないという話

「快適に動く」という評価と「12GBでは非実用」という検証結果

12GB環境での評価が分かれる理由
RTX 4090/5090(快適)
  • Q4_K_M〜Q5_K_Mで実行
  • 「かなり速い」との評価
  • VRAMに余裕がありKVキャッシュを確保できる
RTX 4070 12GB(非実用)
  • VRAM使用量11,675〜11,687MiB
  • 上限12,282MiBで残り約600MiB
  • KVキャッシュの余白なし
  • 4タスク中3つが120秒でタイムアウト
  • 唯一通ったコード生成は最高品質
室谷室谷代表取締役
Qwen3.5-9Bのローカル実行、調べると評価が真逆なんですよね。RTX 4090/5090でQ4_K_M〜Q5_K_Mを回した人は「かなり速い」と評価していて、12GBのRTX 4070で試した検証は「非実用」と切っている・・・
テキトー教師テキトー教師DotAI 認定講師
そこ、初めて触る人が一番混乱するポイントです。同じモデル名なのに体感が全然違う。

GPUのVRAMと量子化レベルが違うと、もう別物なんですよ。
室谷室谷代表取締役
4070の検証では、VRAM使用量が11,675〜11,687MiBで、12,282MiBの上限まで残り600MiBしかなかったと。これはモデルを載せた時点でほぼ満杯ですよね。
テキトー教師テキトー教師DotAI 認定講師
そうなんです。KVキャッシュを確保する余白が残っていないので、4タスク中3つが120秒でタイムアウト。

唯一通ったコード生成は、むしろ検証した中で最高品質だったというのがなんとも。

12GBで極端に遅くなる原因はThinkingモードとKVキャッシュ

テキトー教師テキトー教師DotAI 認定講師
では4070が遅いのはモデルが重いからかというと、そうでもなくて。Qwen3.5-9BはデフォルトでThinkingモードが有効なので、出力トークンが伸びてKVキャッシュが膨らむんです。
室谷室谷代表取締役
262,144トークンのコンテキストを持つモデルですからね。長く持てるほどメモリを食う。

公式も思考能力を保つには128K以上を維持するよう推奨していますけど、12GBでそこまで構えるのは無理がある・・・
テキトー教師テキトー教師DotAI 認定講師
しかも量子化の話が絡みます。Q4_K_MとQ5_K_Mで重みのサイズが変わるので、同じ12GBでも載る載らないが分かれる。

量子化の中身はUnslothのGGUF量子化の解説が参考になります。
室谷室谷代表取締役
つまり「9Bだから12GBでいける」ではなく、量子化・VRAM・Thinkingの3点セットで結果が変わる、と。

試せる3つの対策:コンテキスト制限・no_think・KVキャッシュ量子化

テキトー教師テキトー教師DotAI 認定講師
12GB環境でまず試すなら、この3つです。上から順に効きます。
  1. コンテキスト長を制限する:ollama run qwen3.5:9b --num-ctx 4096 のように指定する
  2. Thinkingを切る:プロンプトの先頭に /no_think を付ける
  3. KVキャッシュを量子化する:環境変数 OLLAMA_KV_CACHE_TYPE=q8_0 を設定する
室谷室谷代表取締役
1番目のコンテキスト制限が一番効くんですよね。デフォルトのまま長い文脈を確保しようとするから、キャッシュで潰れる。
テキトー教師テキトー教師DotAI 認定講師
はい。あと/no_thinkはQwen3のソフトスイッチへの非公式対応なので、API側から切るならenable_thinking: falseを渡す形になります。

挙動は環境で変わるので公式のモデルカードで確認を。

16GB以上という結論をどう受け取るか

室谷室谷代表取締役
で、検証記事の結論は「最低16GB VRAM」と。16GBのカードに買い替えるコストを出すかどうかは、正直その人の用途次第ですよね。
テキトー教師テキトー教師DotAI 認定講師
現場感覚で言うと、日本語要約や翻訳を日常で回したいなら16GB以上、コード生成をたまに試す程度なら12GB+対策でも成立します。全部を同じ土俵で語らないほうがいいんですよ。
室谷室谷代表取締役
なるほど。12GBで「動かない」と切り捨てるより、設定を絞って当たりを取る。

まず無料で試せる範囲を潰すのが順番としては合理的ですね。

エージェントや自律コーディングに使えるのか:ツールコールの不安定さを一次情報で確かめる

Issue #125で報告されていた「XMLが混ざる」現象

ツールコール不安定さの原因と回避策

reasoningモードとツールコール用パーサーを両方有効にした場合

YES / まれに起きる現象(Issue #125の再現実験では12回中2回)
  • モデルがXML形式でツール呼び出しを出力
  • JSONへの変換に失敗
  • 例外は上がらずXMLがreasoning_contentに混入
  • APIのtool_calls配列が空のまま返る
  • ワークフローが静かに停止し翌朝気づく
NO / Qwenチームが示す回避策
  • フレームワーク側のreasoning parserを無効化する
  • thinking状態をアプリケーション層で管理する
  • パーサーに任せず考える状態とツールを呼ぶ状態を自前コードで持つ
室谷室谷代表取締役
9Bってベンチマークだとエージェント系の数字が妙に高いんですよ。BFCL-V4が66.1、TAU2-Benchが79.1。

じゃあ自律コーディングに放り込んでいいのかというと、そこは一回立ち止まったほうがいいかなと。QwenLMの公式GitHubリポジトリのIssue #125に、けっこう生々しい報告が上がってるんですよね。
テキトー教師テキトー教師DotAI 認定講師
あれですね。SGLangでreasoningモードとツールコール用パーサーを両方有効にすると、モデルがXML形式でツール呼び出しを吐いて、JSONへの変換に失敗する、というやつです。

しかも厄介なのが、エラーで落ちるんじゃなくて、XMLがthinking側、つまりreasoning_contentに紛れ込んで、APIのtool_calls配列が空のまま返ってくる。
室谷室谷代表取締役
空で返ってくるのが一番きついんですよ。呼び出しに失敗したわけじゃないので例外も上がらない。

ワークフローが静かに止まるだけで、気づくのは翌朝とか。監視の作り込みが地味に乗るので、ROI で見ると導入コストはベンチマークの数字だけでは測れない部分があるんですよね。
テキトー教師テキトー教師DotAI 認定講師
現場感覚で言うと、関数呼び出しが「たまに空」が一番やっかいで、再現条件もはっきりしない。初めて触る人はまずここでハマります。

大きいほうが不安定、という逆転の報告

テキトー教師テキトー教師DotAI 認定講師
さらに意外だったのが、Issue内で「4Bが最も安定していて、9Bが最も不安定、35B-A3Bはその中間」という報告が出ていることです。大きくすれば賢くて安定する、という単純な話ではないんですね。
室谷室谷代表取締役
Qwenチームのエンジニアも、サイズとの相関はありそうだけど根本原因はコンテキストやプロンプトへの依存が高いんじゃないか、という温度感でコメントしてるんですよ。モデル側で直す話じゃなくて、使い方側で吸収する話になってる。

Redditでも「エージェント型コーディングに足りるのか」という疑問が立ってましたけど、ベンチマークの高さと実運用の安定性は別物として見たほうがいいんですよね。
テキトー教師テキトー教師DotAI 認定講師
たしかに。数字だけ見て現場に投入すると、期待値とのギャップで評価が荒れます。

回避策はアプリ層で持つ、という割り切り

テキトー教師テキトー教師DotAI 認定講師
Qwenチームが示している回避策は、大きく2つなんですよ。
  1. フレームワーク側のreasoning parserを無効化する
  2. thinking状態をアプリケーション層で管理する

つまりパーサーに任せず、考える状態とツールを呼ぶ状態を自分たちのコードで持ちましょう、と。

室谷室谷代表取締役
追加の実装コストはかかるんですよね。ただ、これを前提に据えてしまえば、コード生成そのものの品質は高いと評価されているので、狙う価値は十分ある。

同Issue内では後継のQwen3.6-35B-A3BやQwen3.6-27Bで修正されたという報告もありますから、今9Bをエージェントに組むなら「パーサーを切って状態管理は自分で持つ」を最初から設計に入れる。そこだけ飲み込めば、小型で安く回せる選択肢として普通に成立すると思います。
テキトー教師テキトー教師DotAI 認定講師
最初に戸惑うのがまさにそこなんですよね。モデルの賢さより、外側の作りで安定性を作る発想に切り替えられるかどうか。

APIで使うときの料金はいくらか:プロバイダ別の差と実際の支払い額

OpenRouterで見るとプロバイダごとに値段が違う

Qwen3.5-9Bのプロバイダ別料金表(OpenRouter、2026年11月時点)

室谷室谷代表取締役
9BをAPIで叩くときの話をしましょうか。OpenRouter経由だと複数のプロバイダから同じモデルが借りられるんですけど、値段が揃ってないんですよね。

先に表で見た方が早いです。
テキトー教師テキトー教師DotAI 認定講師
お願いします。初めて触る人は「1社だけ選べばいい」と思い込みがちなので、そこは見ておきたいところです。
プロバイダ入力 ($/M)出力 ($/M)
Darkbloom0.080.13
SiliconFlow0.100.15
DeepInfra0.100.15
Parasail0.100.25
Prime Intellect0.170.25
Together0.170.25
実際の加重平均0.14410.2224
室谷室谷代表取締役
一番安いDarkbloomが入力0.08ドル・出力0.13ドルで、Prime IntellectとTogetherが0.17ドル/0.25ドル。同じモデルを同じAPIで呼んでるのに、入力で2倍以上、出力でもほぼ2倍近い差が出るわけです。

間にParasail、SiliconFlow、DeepInfraが並ぶ形ですね。
テキトー教師テキトー教師DotAI 認定講師
現場感覚で言うと、安い列だけ見て決めて、あとから速度で泣くパターンが多いんですよ。料金表は横に見るものだと思った方がいいです。

表示価格と実際の支払い額がズレる理由

室谷室谷代表取締役
面白いのが、実際に支払われている加重平均は入力0.1441ドル、出力0.2224ドルなんですね。最安のプロバイダよりは高いけど、最高値よりは安い。

キャッシュ読み込みの割引が効いたり、トラフィックが安いところに寄ったりで、表示価格そのままにはならないんですよ。
テキトー教師テキトー教師DotAI 認定講師
なるほど。そこだけ見ると、安いところを探すというより、結果的に安く済むところに流れている感じですね。

でも遅いと体感は悪いわけで。
室谷室谷代表取締役
そうです。最速のプロバイダだとP50で0.15秒、スループットは最大145トークン/秒(Prime Intellect)。

直近3日間の稼働率は100.00%、Availabilityは99.89%という数字も出てます。ツールコールと構造化出力はサポート済みですが、EUリージョン内ルーティングは現時点で未対応なので、そこが要件に入るなら選択肢から外れる。
テキトー教師テキトー教師DotAI 認定講師
価格の列だけ見て決めると、だいたい後で痛い目を見ますからね。速度と稼働率を横に並べてから決めるのが現実的です。

セルフホストとAPI、どちらが得かという損益分岐点

室谷室谷代表取締役
経営目線で言うと、これは固定費と従量費の勝負なんですよ。GPUを1枚持つと、使っても使わなくてもコストが乗る。

APIは使った分だけ。検証段階でGPUを買うのは、ほぼ確実に無駄になります。
テキトー教師テキトー教師DotAI 認定講師
まず触ってみる段階ならAPI一択ですね。モデルカードにはvLLMやSGLangでの起動コマンドも載ってるので、自前で立てる道は残っています。
室谷室谷代表取締役
たとえばvLLMなら vllm serve Qwen/Qwen3.5-9B --port 8000 --tensor-parallel-size 1 --max-model-len 262144 --reasoning-parser qwen3 という形で、ツール呼び出しを有効にするなら --enable-auto-tool-choice --tool-call-parser qwen3_coder を足す。ただ運用するとなると、GPUの調達に加えて監視とアップデートの人手が要る。

その人件費を時給で換算すると、よほどのリクエスト量じゃないと元は取れないんですよね。
テキトー教師テキトー教師DotAI 認定講師
現場でよく聞くのも同じ順番です。まずAPIで当てて、量が読めてから自前を検討する。

逆にすると、動かないまま時間だけ溶けます。

まとめ:Qwen3.5-9Bはどんな使い方に向いているのか

ローカルで動かす人:スペックの線引きがすべて

室谷室谷代表取締役
ローカルで使いたい人にとっての結論はシンプルで、GPUメモリの余裕がほぼすべてを決めるんですよね。前述のとおり12GBだとKVキャッシュで詰まるので、動かすこと自体が目的ならアリ、仕事で回すなら16GB以上を前提にした方がいい・・・
テキトー教師テキトー教師DotAI 認定講師
現場でよく聞くのは「9Bなんだから小さいし余裕でしょ」という油断なんですよ。Thinkingモードが既定でオンだから出力が伸びて、そこから一気に苦しくなる。

まずコンテキストを絞るところから始める人が多いです。
室谷室谷代表取締役
量子化の違いで体感が変わる話も、ちゃんと押さえておきたいところです。GGUFの中身がどう効いているのかを知りたい人は、Unslothの「DeepSeek-V4.1-Flash-1017」GGUFとは?Dynamic V3.1で量子化あたりを読むと解像度が上がると思います。
テキトー教師テキトー教師DotAI 認定講師
あと画像や動画も扱えるので、手元のスクショを読ませたい用途はローカルの方が気楽ですね。データを外に出さない前提で試せるのは大きいです。

APIで組む人:単価の安さがそのまま効く

テキトー教師テキトー教師DotAI 認定講師
API側は単価が安い帯に収まっているのが素直に強いですね。ちょっとした分類や要約を大量に流す使い方だと、9Bの小ささがそのままコスト差になります。
室谷室谷代表取締役
MYUUU でも全部を一番高いモデルに投げる運用はしてなくて、下流の処理は安いモデルに落とす層を作ってます。1リクエストの差は小さいですが、月で見ると効いてくるんですよ。
テキトー教師テキトー教師DotAI 認定講師
とはいえ提供元によって単価も速度も違うので、同じモデル名でもどこから借りるかで体感が変わります。可用性も含めて、公式の一覧を見てから決めるのが無難ですね。

エージェント目的の人:ここは割り切りが必要

室谷室谷代表取締役
エージェントとして延々ツールを叩かせる用途は、正直まだ慎重に見てます。ツールコールが崩れる報告が公式リポジトリ側に出ていて、モデル側の修正は入っていない・・・
テキトー教師テキトー教師DotAI 認定講師
そうなんですよね。「4Bが一番安定していて9Bが一番不安定」という報告があるのが面白くて。

大きければ安心、ではないところがハマりどころです。
室谷室谷代表取締役
だからエージェントで使うなら、失敗を前提にリトライを組むとか、フォールバックを用意するとか、その設計コストを先に見積もる必要がある。ROIで言えば、そこを無視すると安さの意味が消えます。
テキトー教師テキトー教師DotAI 認定講師
逆に、単発の関数呼び出しや構造化出力を決め打ちで使うなら十分戦えます。自律的に長く走らせる用途とは分けて考えた方がいいですね。

使う前に公式で確認しておきたいポイント

テキトー教師テキトー教師DotAI 認定講師
最後に実務的なところで、料金と提供プロバイダは変動が早いので、契約前に公式ページを見てほしいです。Thinkingの切り替え方も、実装によって指定の仕方が変わります。
室谷室谷代表取締役
ライセンスはApache 2.0で商用も改変も再配布もいけるので、そこは安心材料なんですよね。ただ社内に持ち込むなら法務に一度通す。

その一手間を省いて後で揉めるのが一番高くつきます。
テキトー教師テキトー教師DotAI 認定講師
サンプリング設定も公式に推奨値が出ているので、最初はそこから外れない方がいいです。いじりたくなる気持ちは分かるんですが、まず基準を持っておくと比較がぶれません。

よくある質問

Q1. 生成物の著作権はどう考える?

室谷室谷代表取締役
ライセンスが商用OKでも、出力物の権利は別の話なんですよね。契約書や利用規約でどこまで許容されるか確認が必要で・・・
テキトー教師テキトー教師DotAI 認定講師
たしかに。現場でも「モデルは使えるのに、生成物をそのまま販売していいのか」で止まる人がいます。

法務確認なしに本番投入は怖いですね。
室谷室谷代表取締役
そこはモデルの性能と切り離して、事業側で先に決めておくべき論点なんですよ。

Q2. 安全性や不適切出力への対策は?

テキトー教師テキトー教師DotAI 認定講師
小型モデルは便利なんですけど、拒否やガードレールの強さはモデルごとに差があります。公開されているモデルカードで確認するのが先ですね。
室谷室谷代表取締役
業務で使うなら、プロンプト側の制約と出力チェックをセットで考える必要があるんですよね。モデルだけに任せない。
テキトー教師テキトー教師DotAI 認定講師
そうなんです。特に外部入力を受ける用途では、後段のフィルタを前提にした方が安全です。

Q3. 自分で性能を評価するときの進め方は?

室谷室谷代表取締役
ベンチマークを見るより、自分の業務から小さな例題集を作る方が早いんですよね。正解率と外し方の傾向を見る。
テキトー教師テキトー教師DotAI 認定講師
現場感覚でも、汎用スコアが高くても自社データで急に弱いことがあります。小さな検証セットを先に作るのがおすすめです。
室谷室谷代表取締役
コストも時間もそんなにかからないので、導入前に一回やる価値は大きいです。

Q4. APIとローカルで出力が変わることはある?

テキトー教師テキトー教師DotAI 認定講師
ありますね。ローカルだと量子化や実行環境の差で、同じプロンプトでも反応が変わることがあるんですよ。
室谷室谷代表取締役
APIはプロバイダ側の設定も入るので、再現性を見るなら同じ条件で比較しないと意味がないんですよね。
テキトー教師テキトー教師DotAI 認定講師
最初に戸惑うのがそこで、評価した環境をメモしておくだけでも後で楽になります。

Q5. モデルの更新情報はどこで追えばいい?

室谷室谷代表取締役
こういう小型モデルは更新が早いので、公式のリポジトリやモデルカードを定点観測するのが一番なんですよね。
テキトー教師テキトー教師DotAI 認定講師
たしかに。ブログ記事だけ追うと古い情報を掴みがちです。

使う前に一次情報を見る癖をつけると安全です。
室谷室谷代表取締役
事業で使うなら、更新を前提にバージョンを固定できる仕組みも欲しいところです。

まとめ

室谷室谷代表取締役
まとめると、Qwen3.5-9Bは小さくてもマルチモーダルで、ベンチマーク上は大きいモデルに迫る項目がある。ただ、ツールコールや本番運用は過信しない方がいいんですよね。
テキトー教師テキトー教師DotAI 認定講師
そうですね。最初から全部任せるより、ローカルで試して、向くタスクを絞るのが現実的です。

VRAMやライセンスも先に確認しておきたいところです。
室谷室谷代表取締役
経営目線だと、APIとローカルのコスト差だけで決めず、運用コスト込みで見た方がいいんですよね。
テキトー教師テキトー教師DotAI 認定講師
まずは公式のモデルカードを見て、自分の用途で小さく検証する。そこから本番導入を判断するのがおすすめです。

New articles

新着記事

使い方

チャットGPTとAIの違いは何?生成AIとの関係を5層構造で整理

2026年11月22日
室谷テキトー教師
使い方

Veo 2は提供終了、今動画生成AIを使うなら何を選ぶか

2026年11月22日
室谷テキトー教師
使い方

Stable DiffusionのSeed値とは?固定とガチャの使い方、再現しない原因

2026年11月22日
室谷テキトー教師
ニュース

Kling Image 4.0とは?ネイティブ8Kと10枚セット生成の画像モデル

2026年11月22日
室谷テキトー教師
使い方

Qwen3.5とは何か|後継のQwen3.8やQwen4-Maxが出た今、選ぶべき人

2026年11月22日
室谷テキトー教師
ニュース

OpenRouterのプロバイダー削除とZDR剥奪とは?データ処理問題で3社排除

2026年11月22日
室谷テキトー教師
使い方

Hugging Faceとは何か?AIの“GitHub”と呼ばれる理由と料金・使い方を解説

2026年11月22日
室谷テキトー教師
使い方

GLM-5とは何か。Z.aiの新モデルの性能・料金と2026年11月の現在地

2026年11月22日
室谷テキトー教師
使い方

Flux AIとは何か、同名の別サービスと料金の全体像

2026年11月22日
室谷テキトー教師
使い方

DeepSeek V4 Proは今も使える?現行料金とV4.1 Flashとの違いを整理

2026年11月22日
室谷テキトー教師

Join

AIプレナーになる。

入会は審査制です。いまの事業と、AIで何を動かしたいのかを聞かせてください。