この記事の要点（最終更新：2026年11月4日／モデル一覧・ライセンスは2026年11月4日時点）
- オープンウェイトモデルとは：学習済みの重みが公開され、自社の設備で動かせるLLM。オープンソースとの違いと、商用利用の考え方はオープンウェイトモデルとは？で解説している。
- 結論：自社で回しやすいのは、FP8または4bit量子化でGPU1枚で動く27〜33B級。120B〜320B級にも選択肢が戻った。1ノード（H200×8）に重みが収まらないフラッグシップはAPIで使う。11月はMistral AIの1T級、Mistral Large 4が加わった。
- ライセンス：Apache 2.0とMITは表示義務のみで商用利用・改変・再配布が可能。独自ライセンス（Kimi K3 License、Qwen3.8-Max License、Qwen Community License 1.0、GLM-5.3 License、Muse Model License、Mistral Ecosystem Open-Weight License、PLaMo community license）は法務レビューを通す。
- この記事にあるもの：21モデルの一覧表／GPU別の対応モデル早見表／オンプレとクラウドの3年TCO試算 → オンプレLLM導入判断シートを受け取る
本記事は原則として毎月見直している。
この記事の対象読者
- データ持ち出し制約のある企業（金融 / 医療 / 公共 / 防衛）のAIプラットフォームエンジニア
- 月数千万トークン超の運用でクラウドAPIコストが負担になっている事業責任者
- サブ秒レイテンシ要求のあるユースケース（コールセンター / 検索 / リアルタイム翻訳）を持つ事業部
- AX推進でローカルLLMの必要性を経営層に説明したいAX推進責任者
オープンウェイトモデルとは
※本節以降のモデル比較・選定に関する記述（パラメータ数、コンテキスト長、ライセンス、GPU価格のほか、日本語性能や規模の目安などの判断を含む）は、2026年11月4日時点の情報に基づく。
オープンウェイトモデルは、学習済みの重み（パラメータ）が公開され、ダウンロードして自社の設備で推論できるモデルである。クラウドAPIと違い、入力データを外部に送らずに処理でき、使うモデルの版も自社で固定できる。重みが公開されていても、学習データや学習コードまで公開されているとは限らない。そのため、ソースコードを公開するオープンソースとは区別して呼ばれる。オープンソースとの違いと、ライセンスの類型ごとの読み方はオープンウェイトとオープンソースの違いで整理している。
規模の幅は大きい。1T級のフラッグシップはKimi K3、Qwen3.8-2.4T-A95B、DeepSeek-V4-Pro-0813、MiMo-V2.6-Pro、Mistral Large 4である。その下の500B〜800B台（Muse Spark Open、Hy4 preview、GLM-5.3、Ling-3.1-flash-1019、DeepSeek-V4.1-Flash）は、H200を4〜8枚積んだ1ノードが要る。120B〜320B帯にはQwen3.8-Flash-Next、MiMo-V2.6-Flash、GLM-5.3-Flashが入った。FP8または4bit量子化でGPU1枚で動く27〜33B級は、Qwen3.8-27B、Gemma 4 31B、Muse Glimmer 30B、llm-jp-4.1-33b、Nemotron 3.5 Lightning 30B-A3Bである。PLaMo 3系も31Bだが、ライセンスは独自である。
自社の設備で現実的に回せるのは30B〜120B級で、1ノードに収まらないフラッグシップはAPIで使う対象になる。掲載順は規模順であり、優劣ではない。
商用利用の可否はライセンスで分かれる。Apache 2.0とMIT（DeepSeek系、GLM-5.3-Flash、MiMo-V2.6系、Ling-3.1-flash-1019）は表示義務のみで商用利用・改変・再配布が可能である。独自ライセンスはKimi K3 License、Qwen3.8-Max License、Qwen Community License 1.0、GLM-5.3 License、Muse Model License、Mistral Ecosystem Open-Weight License、PLaMo community licenseで、法務レビューを通す。同じ提供元でもモデルごとに条件が違うので、ベンダー名では推測しない。たとえばMetaの30B級Muse GlimmerはApache 2.0だが、10月に出た816BのMuse Spark Openは独自ライセンスである。条件の違いは後述の「モデル選定ポイント」とFAQのQ2で整理している。
ローカルLLMが必要な3ケース
ローカルLLMはクラウドAPIより構築・運用が重い。やみくもにオンプレ化するのは非効率で、以下の3ケースに該当する場合のみ検討する。
ケース1：データ持ち出し禁止
- 金融機関の顧客取引データ
- 医療機関の患者カルテ
- 防衛 / 警察 / 公共インフラの機微情報
- 法務 / 知財関連の機密文書
クラウドAPIでもEnterprise契約（データ学習除外 / ログ保存制御）でカバーできるケースが増えたが、規制上 "物理的にデータを国外に出さない / 自社管理下にない環境で処理しない" 要件がある場合はローカルが必須。
ケース2：月数千万トークン超の長期運用
クラウドAPIは従量制で、月数千万〜数億トークンを継続的に消費する業務（社内ナレッジ検索 / 大量文書要約 / 24hチャットボット）では、3〜5年TCOでローカルLLMがペイすることがある。
損益分岐の目安：月1億トークン × 12ヶ月 = 年12億トークン消費の業務で、$200K超のクラウド支出 → 自前GPUクラスタ（H100×4〜8台）が選択肢になり始める。
ケース3：サブ秒レイテンシ要求
- コールセンターの音声応答（応答200ms以内）
- リアルタイム翻訳 / 通訳支援（300ms以内）
- 検索エンジン補完 / オートコンプリート（100ms以内）
クラウドAPIは通信遅延 + キュー待ち + 生成時間で1〜3秒かかる。サブ秒要求の業務にはローカルLLMが必須。
主要オープンウェイトモデル一覧
パラメータ数・コンテキスト長・ライセンスは、各モデルの公式モデルカードと公式リポジトリの設定ファイルで確認した値を記載する。掲載順は総パラメータ数の順で、優劣ではない。確認日は2026年11月4日である。
| モデル | 提供元 | パラメータ（総/アクティブ） | コンテキスト長 | ライセンス | 商用利用 | 種別 |
|---|---|---|---|---|---|---|
| Kimi K3 | Moonshot AI | 2.8T / 104B（MoE） | 1,048,576 | Kimi K3 License（独自） | △（条項確認） | マルチモーダル |
| Qwen3.8-2.4T-A95B | Alibaba | 2.4T / 95B（MoE） | 262,144（最大1,010,000） | Qwen3.8-Max License（独自） | △（条項確認） | テキスト |
| DeepSeek-V4-Pro-0813 | DeepSeek | 約1.6T / 49B（MoE） | 1,048,576 | MIT | ◎ | テキスト |
| MiMo-V2.6-Pro | Xiaomi | 1.02T / 42B（MoE） | 1,048,576 | MIT | ◎ | マルチモーダル |
| Mistral Large 4 | Mistral AI | 約1T / 49B（MoE。埋め込み層と出力層を含めると52B） | 1,048,576 | Mistral Ecosystem Open-Weight License（独自） | △（条項確認） | マルチモーダル（入力：テキスト・画像） |
| Muse Spark Open | Meta | 816B / 42B（MoE） | 1,048,576 | Muse Model License（独自） | △（条項確認・表示義務あり） | マルチモーダル（入力：テキスト・画像・動画・音声） |
| Hy4 preview | Tencent | 770B / 49B（MoE） | 1,048,576 | Apache 2.0 | ◎ | テキスト（プレビュー版） |
| GLM-5.3 | Z.ai（智譜） | 753B（MoE） | 1,048,576 | GLM-5.3 License（独自） | △（条項確認） | テキスト |
| Ling-3.1-flash-1019 | inclusionAI | 560B / 25B（MoE） | 1M（モデルカード記載。設定ファイルの既定値は262,144） | MIT | ◎ | テキスト |
| DeepSeek-V4.1-Flash-1017 | DeepSeek | 552B / 8B〜16B（MoE。別に条件付きメモリ196B） | 1,048,576 | MIT | ◎ | マルチモーダル |
| GLM-5.3-Flash | Z.ai（智譜） | 320B / 18B（MoE） | 1,048,576 | MIT | ◎ | マルチモーダル |
| MiMo-V2.6-Flash | Xiaomi | 309B / 15B（MoE） | 1,048,576 | MIT | ◎ | マルチモーダル |
| Qwen3.8-Flash-Next | Alibaba | 125B / 6B（MoE。別にN-gram埋め込み51B・MTP 4B） | 262,144（最大1,000,000） | Qwen Community License 1.0（独自） | △（条項確認） | マルチモーダル（試験版） |
| Mistral-Small-4-119B-2603 | Mistral AI | 119B / 6.5B（MoE・128エキスパート中4活性） | 256K | Apache 2.0 | ◎ | マルチモーダル（入力） |
| gpt-oss-120b | OpenAI | 117B / 5.1B（MoE） | 131,072 | Apache 2.0 | ◎ | テキスト |
| llm-jp-4.1-33b-thinking | 国立情報学研究所 | 33B（Dense） | 65,536 | Apache 2.0 | ◎ | テキスト（日本語重視） |
| PLaMo 3 NICT 31B | Preferred Networks | 31B（Dense） | モデルカードに記載なし | PLaMo community license | △（事前登録＋年商要件・後述） | テキスト（日本語重視・ベースモデル） |
| Gemma 4 31B | 30.7B（Dense） | 256K | Apache 2.0 | ◎ | マルチモーダル | |
| Nemotron 3.5 Lightning 30B-A3B | NVIDIA | 30B / 3B（MoE） | 最大1,048,576（H100 1枚では256K） | OpenMDW-1.1 | ◎ | テキスト |
| Muse Glimmer 30B | Meta | 29.6B（Dense・視覚エンコーダ含む） | 131,072以上 | Apache 2.0 | ◎ | マルチモーダル（入力） |
| Qwen3.8-27B | Alibaba | 27B | 262,144（最大1,000,000） | Apache 2.0 | ◎ | マルチモーダル |
2026年11月の更新点（10月20日版からの差分）
1. Mistral AIが1T級のMistral Large 4を公開した。 2026年10月29日にHugging Faceのリポジトリで重みが公開された、総パラメータ約1T・アクティブ49B（埋め込み層と出力層を含めると52B）のMoEである。モデルカードは総パラメータを「約1T」とだけ書いており、正確な数は示していない。コンテキストは1M、入力はテキストと画像に対応し、対応言語に日本語を含む。
ライセンスは、MITを変更した独自のMistral Ecosystem Open-Weight Licenseである。利用者または関係会社がModel as a Service（API等でモデルの機能を第三者に提供する事業）を行う場合、売上規模にかかわらず、商用利用の前にMistral AIから別の商用ライセンスを取得する必要がある。第三者に提供しない社内利用は、この条件の対象外である。同じMistral AIでも、119BのMistral-Small-4はApache 2.0のままで、条件が違う。
公式のFP8版の重みファイルは約1,061GBで、H200×8（1,128GB）に収まるものの、KVキャッシュに回せる余地は70GB弱しかない。Blackwell世代のGPU向けには、NVFP4版（約610GB）が別のリポジトリで公開されている。
2. inclusionAIはLing-3.1-flashの改良版を出した。 2026年10月27日公開のLing-3.1-flash-1019は、モデルカードで前版の改良版と説明されている。構成（総560B・アクティブ25B）とライセンス（MIT）は前版と同じで、表の記載をこちらに改めた。モデルカードはコンテキストを1Mとしているが、設定ファイルの既定値は262,144で、1Mへ広げる手順はモデルカードに書かれていない。長文脈を前提にするなら、自社の環境で確かめてから採用する。
3. MiMo-V2.6系のモデルカードに利用制限の節が加わった。 2026年10月28日に、軍事目的や悪意あるサイバー活動などへの利用を禁じる「Use Restrictions」の節が追加された。同じ節に、この追記はモデルのライセンスを変更しないと書かれており、ライセンスはMITのままである。ライセンス条文のファイルは引き続き公開されていない。
残りのモデルは、Hugging Faceのリポジトリの更新履歴で、10月20日以降に重みとライセンスの更新が無いことを11月4日に確認した。ただし、閲覧が申請制のMuse Spark Openは更新履歴とライセンス条文を読み直せず、リポジトリの最終更新日（10月15日）で判断した。PLaMo 3系は、モデルカードに載ったライセンス条文で判断した。TencentのHy4は、引き続きプレビュー版のみである。
2026年10月の更新点（8月版からの差分）
1. ライセンスは、同じ提供元・同じ世代の中でも分かれるようになった。 Z.aiはフラッグシップのGLM-5.3を独自のGLM-5.3 Licenseで公開した。前版のGLM-5.2はMITだった。条文では、利用者または関係会社がModel as a Service（API等で第三者に推論を提供する事業）を行い、関係会社を含む直近12か月の売上が100億ドルを超える場合、商用利用の前にZ.aiのセキュリティ審査を受ける必要がある。同時に公開されたGLM-5.3-FlashはMITのままだ。
AlibabaはQwen3.8-Flash-Nextに新しいQwen Community License 1.0を採用した。利用者または関係会社がModel as a ServiceかAI Work Assistant（AIコーディングやオフィス生産性向けの独立した製品）の事業を行う場合、売上規模にかかわらず、商用利用の前にQwenから別ライセンスを取得する必要がある。第三者に提供しない社内利用は、この条件の対象外である。フラッグシップのQwen3.8-Max Licenseは同じ条件に売上5,000万ドル超という線を引いており、Qwen3.8-27BはApache 2.0のままだ。同じQwen3.8世代の中で、条件が3通りに分かれたことになる。
2. 名前に「Flash」が付いても、単一GPUに載る規模とは限らない。 GLM-5.3-Flash（320B）、MiMo-V2.6-Flash（309B）、DeepSeek-V4.1-Flash（552B）は、いずれも300Bを超える。モデル名で調達規模を見積もらず、総パラメータと配布形式を確認すること。
3. 8月版で「消えた」と書いた中間帯に、選択肢が戻ってきた。 Qwen3.8-Flash-Next（MoE本体125B）、MiMo-V2.6-Flash、GLM-5.3-Flashが120B〜320B帯に入った。いずれもMoEでアクティブは6B〜18Bと小さく、公式の重みファイルはH200の2〜4枚に収まる容量である（後述のGPU表を参照）。ただしQwen3.8-Flash-Nextは、次世代アーキテクチャの試験的なプレビューとして公開されている。
4. 30B級にNVIDIAと国立情報学研究所の新モデルが加わった。 NVIDIAのNemotron 3.5 Lightning 30B-A3B（2026年8月11日公開）は総30B・アクティブ3BのMoEで、モデルカードはH100 80GB 1枚、コンテキスト256Kでの構成を示している。対応言語に日本語を含み、ライセンスのOpenMDW-1.1には売上や利用者数の条件がない。国立情報学研究所は2026年9月に、llm-jp-4.1（8B / 32B-A3B / 33B、Apache 2.0）を公開した。
5. 日本語特化モデルは、ライセンスと想定用途の両方を読む。 llm-jp-4.1のモデルカードには、研究開発用のモデルであり本番サービスでの直接利用は想定していない、と明記されている。Apache 2.0で表示義務のみのため商用利用はできるが、本番に使うなら自社の業務で評価してから判断することになる。
Preferred NetworksのPLaMo 3系はPLaMo community licenseで、商用利用にはPFNへの事前登録が要る。さらに、利用者または利用者の関係会社の年商が10億円を超える場合は、別途PFNから商用ライセンスを取得しなければならない。この条件は2026年11月4日にも変わっていないことを確認した。エンタープライズ用途では、この年商要件でほぼ確実に別契約側に該当する。検証で使えたからといって、本番で同じ条件では使えない典型例である。
6. Metaのフラッグシップは独自ライセンスで出た。 Metaは2026年10月15日、総816B・アクティブ42BのMuse Spark Openを公開した。入力はテキスト・画像・動画・音声に対応する。ライセンスは独自のMuse Model Licenseで、30B級のMuse Glimmer（Apache 2.0）とは条件が違う。条文は、このモデルや派生モデルを使う製品・サービスに「Built with Muse Spark Open」の表示を求めている（画面、または付属の文書・Webサイト・設定メニューのいずれか）。売上や利用者数による例外はない。また、利用者または関係会社がModel as a Service（API等でモデルの機能を第三者に提供する事業）を行い、関係会社を含む直近12か月の売上が2,000万ドルを超える場合は、Metaに通知して別契約を結ぶ必要がある。第三者に提供しない社内利用は、この条件の対象外である。重みのダウンロードはHugging Face上の申請制で、公式はNVFP4版で700GB以上、BF16版で2TBのVRAMを要件に挙げている。
7. 10月10日以降に、500B級が2つ増えた。 inclusionAIのLing-3.1-flash（2026年10月13日公開、総560B・アクティブ25B、MIT）を500B〜800B台に加えた。DeepSeekは10月17日に、DeepSeek-V4.1-Flashの小改良版DeepSeek-V4.1-Flash-1017（MIT、構成は同じ）を公開したため、表の記載をこちらに改めた。
8月版に載せたGLM-5.2、DeepSeek-V4-Flash-0731、llm-jp-4-33b-thinkingは、後継のGLM-5.3系、DeepSeek-V4.1-Flash、llm-jp-4.1に置き換えた。GLM-5.2は引き続きMITで公開されているため、753B級をMITで使いたい場合の選択肢として残る。2026年10月3日公開のAleph Alpha「Kolibri-1」（総78B、Apache 2.0）は、対応言語がドイツ語と英語のため表に入れていない。このほか、StepFunのStep-5-Preview（総600B、StepFun Model License 1.0）、MiniMaxのMiniMax-M3（総428B、独自ライセンス）、Mistral AIのMistral-Medium-3.5-128B（変更付きMITライセンス。前月の連結月商が2,000万ドルを超える企業は権利を行使できない）は、企業利用で条件に当たりやすいか、プレビュー段階のため表に入れていない。
本記事のライセンス記述は、2026年11月4日時点で確認できた範囲のものである。 MiMo-V2.6とLing-3.1-flash-1019は条文のファイルが公開されておらず、モデルカードのMIT表記で判断した。Muse Spark Openは条文の閲覧が申請制のため11月4日には読み直せておらず、記述は10月20日に確認した条文に基づく。PLaMo 3系は、モデルカードに載った条文で判断した。条文は改定されるため、採用判断では必ずライセンス原文の最新版を確認し、自社法務のレビューを通すこと。本記事の記載を法的助言として用いないこと。
モデル選定ポイント
規模から入らない。 Kimi K3はSFT以降の学習で量子化を織り込んだMXFP4配布のモデルで、公式の重みファイルだけで約1.56TBある。H200（141GB）換算で12枚が要り、8枚構成のノード（1,128GB）に収まらない。これは自社オンプレの話ではなく、データセンター事業の話になる。フラッグシップ級は「APIで使う対象」であって「自社で建てる対象」ではない、と割り切るのが実務的だ。
GPU1枚で完結する境界は概ね120B級。 Mistral-Small-4-119B（アクティブ6.5B）やgpt-oss-120b（アクティブ5.1B）は、総パラメータこそ100B超だがMoEでアクティブが小さく、推論コストは実効的に軽い。ただしMoEは全エキスパートの重みをVRAMに載せる必要があるため、必要VRAMはアクティブ側ではなく総パラメータ側で見積もる。ここを取り違えると調達を誤る。
ただし配布形式が低精度なら要件は下がる。 gpt-oss-120bはMoEの重みがMXFP4で後訓練されており、公式モデルカードは80GB GPU 1枚（H100やMI300X）で動作すると明記している。DeepSeek-V4-Pro-0813も総パラメータは約1.6Tだが、公式の重みファイルは約0.89TBで、H200×8の1,128GBに重みは収まる計算になる。総パラメータからの機械的な計算と、実際の配布形式は別物なので、必ずモデルカードとファイル容量を確認すること。
業務で最も現実的なのは27〜33Bクラス。 Qwen3.8-27B / Gemma 4 31B / Muse Glimmer 30B / llm-jp-4.1-33b はApache 2.0、Nemotron 3.5 Lightning 30B-A3BはOpenMDW-1.1で、いずれも商用利用に売上や利用者数の条件がない。FP8または4bit量子化で48GB級のGPU 1枚に収まる。多くの社内ユースケース（要約・分類・抽出・一次回答）はこの帯で足りる。
MITとApache 2.0は実務上ほぼ同等に扱える。 DeepSeek系、GLM-5.3-Flash、MiMo-V2.6系、Ling-3.1-flash-1019はMIT、上記30B級はApache 2.0かOpenMDW-1.1で、いずれも商用利用・改変・再配布ができる。条件は配布時の著作権表示やライセンス文の同梱などに限られる。独自ライセンス（Kimi K3 License、Qwen3.8-Max License、Qwen Community License 1.0、GLM-5.3 License、Muse Model License、Mistral Ecosystem Open-Weight License、PLaMo community license）のみ、法務レビューを通す。
日本語性能は公表ベンチマークで決めない。 モデルの入れ替わりが四半期単位で起きており、「日本語ならこれ」と言い切れる定説は無い。自社業務の評価セット（500〜1,000サンプル）を作り、候補3つを実測して決めること。この評価セットは一度作れば次のモデル更新でも再利用でき、モデル選定を継続的な作業に変えられる。
Whitepaper
オンプレLLM導入判断シート
候補のモデルが見えたら、次は自社の業務要件に当てはめる段階です。GPU構成と稟議の根拠までを整理する「オンプレLLM導入判断シート」を、メールアドレスの入力だけでお渡ししています。
推論基盤の選択肢
vLLM（プロダクション運用の標準）
- NVIDIA GPUでのバッチ推論に最適化（PagedAttention）
- 高スループット / 低レイテンシ
- OpenAI互換APIでラップ可能（vLLMが
/v1/chat/completionsを提供）
適用ケース：エンタープライズ本番運用 / トラフィック100req/s以上 / 複数モデル並列ホスト
llama.cpp（軽量 / オンプレ / CPU可）
- C++ 実装で量子化（GGUF）対応
- CPUでも動作（速度は出ないがPoC可能）
- Mac / Windowsノートでも動かせる
適用ケース：オンプレ小規模 / エッジ / 開発者デスクトップ
TGI（Text Generation Inference / HuggingFace公式）
- HuggingFaceエコシステムとの統合が厚い
- 推論サーバーとして安定
- vLLMより少し性能劣るが運用しやすい
適用ケース：HuggingFace既存ユーザー / モデル切り替え頻度が高い検証環境
Ollama（ローカル開発 / プロトタイピング）
- 1コマンドでモデルダウンロード → 推論
- macOS / Linux / Windows対応
- 量子化済みモデルが豊富
適用ケース：PoC / 開発者個人環境 / デモ
SGLang（高速化志向）
- vLLMの改良版的位置付け
- 構造化出力 / JSONモードに強い
- 学習コストはやや高い
適用ケース：構造化出力ヘビーな業務 / vLLMで性能不足のケース
ハードウェアとコスト試算
GPU別の対応モデル（重み容量基準）
必要VRAMは、FP8なら総パラメータ数×約1バイトが重みの下限で、公式配布がMXFP4などの4ビット系ならさらに小さくなる。これにKVキャッシュ・アクティベーション・推論基盤のオーバーヘッドが加わる。下表の「対応モデル例」は、公式リポジトリの重みファイル容量（2026年11月4日確認）を基準にした概算である。長文脈を常用する場合はKVキャッシュが支配的になるため、余裕を見て選ぶこと。KVキャッシュを含む必要VRAMの計算手順はローカルLLMに必要なGPUとVRAMで解説している（同記事のモデル別早見表は、本記事の10月以降の更新をまだ反映していない）。
| GPU | VRAM | 対応モデル例（重み基準の概算） | 価格（参考） |
|---|---|---|---|
| RTX 4090 | 24GB | 量子化した20B級まで / Muse Glimmer 30B（公式が4ビット量子化で24GB環境を想定） | $1.6K〜 |
| RTX 6000 Ada | 48GB | Qwen3.8-27B / Gemma 4 31B / Muse Glimmer 30B / llm-jp-4.1-33b（いずれもFP8） | $7K〜 |
| RTX PRO 6000 Blackwell | 96GB | 上記30B級をBF16で / Nemotron 3.5 Lightning 30B-A3B（BF16で約66GB） | 要見積 |
| H100 80GB | 80GB | 上記30B級を長文脈で / gpt-oss-120b（MXFP4配布のため80GB 1枚で動く） / Nemotron 3.5 Lightning（公式がH100 1枚・256Kの構成を提示） | $25K〜 |
| H200 | 141GB | Mistral-Small-4-119B（FP8で約120GB） | $30K〜 |
| H200×2 | 282GB | Qwen3.8-Flash-Next（FP8版で約186GB） / MiMo-V2.6-Flash（約178GB） | $60K〜 |
| H200×4 | 564GB | GLM-5.3-Flash（約328GB） / DeepSeek-V4.1-Flash-1017（約510GB） | $120K〜 |
| H200×8 | 1,128GB | Ling-3.1-flash-1019（約574GB） / MiMo-V2.6-Pro（約570GB） / GLM-5.3（FP8で約756GB） / Hy4 preview（FP8版で約814GB） / DeepSeek-V4-Pro-0813（約893GB） / Mistral Large 4（FP8版で約1,061GB。KVキャッシュの余地は小さい） | $240K〜 |
| （参考）8枚構成を超える | 1.5TB〜 | Kimi K3（約1.56TB） / Qwen3.8-2.4T（FP8版で約2.5TB） | 単一ノードでは非現実的 |
Muse Spark Openは、公式がNVFP4版で700GB以上、BF16版で2TBのVRAMを要件に挙げている（NVFP4版の重みファイルは約533GB、BF16版は約1.64TB）。どのGPU世代を前提にした要件かがモデルカードに書かれていないため、上の表には入れていない。
1ノード（H200×8）に重みが収まらないフラッグシップは、自社オンプレの検討対象から外してよい。 電源・冷却・ノード間接続の要件が、データセンター設計の領域に入るからだ。1T級でも、DeepSeek-V4-Pro-0813やMiMo-V2.6-Pro、Mistral Large 4のように配布形式が低精度なら1ノードに収まる計算になるが、初期投資は$240K規模になる。フラッグシップ級はAPIまたはマネージド推論で使い、自社に建てるのは30B〜120B級、という切り分けが現実解である。
自社オンプレ vs クラウドGPU（参考試算）
H100×4台構成の場合は次のとおり。
- 自社オンプレ：初期 $120K（GPU）+ $30K（サーバ / 冷却 / 電源） = $150K + 月額電気代 $1〜2K
- クラウド（AWS p5.48xlarge / GCP a3-megagpu）：時間単価 $30〜50 × 730h = 月 $22K〜36K
- 専用クラウドGPU（Together / Fireworks / Lambda）：時間単価 $10〜20 × 730h = 月 $7K〜15K
3年運用でのTCOは次のとおり。
- 自社オンプレ：$150K + $36K（電気） + 運用人件費 = 約 $250〜350K
- クラウド：$800K〜$1.3M
- 専用クラウド：$250〜540K
目安：24h 365日フル稼働なら自社オンプレが安い。日中のみ稼働ならクラウドが安い。
国内データセンター事業者の選択肢
- さくらインターネット（GPUクラウド「高火力」）
- NTT Data（プライベートクラウドGPU）
- 富士通（FUJITSU Hybrid IT Service）
- 国内H100 / H200リソースは需給逼迫しており、6〜12ヶ月リードタイムも珍しくない
国内DC要件（特に金融 / 医療）の場合は早期に契約を進める必要がある。
クラウドAPIとのハイブリッド設計
完全ローカル化を狙わず、ハイブリッドが定石。
設計原則
| 要件 | ルーティング先 |
|---|---|
| 機微情報を含む / データ持ち出し不可 | ローカルLLM |
| 高難度の推論 / 最新モデル必要 | クラウドAPI（Claude / GPT / Gemini の上位モデル） |
| 高頻度・軽量タスク | ローカルLLM |
| 業務時間外バッチ処理 | クラウドAPIバッチ（50%割引） |
| サブ秒応答要求 | ローカルLLM（特にCPU + 量子化） |
ルーティング実装
次の3パターンがある。
- ルールベース：データ分類タグでルーティング（簡単 / 柔軟性低）
- 小型分類モデル：FastText / DistilBERT等で機微判定 → ローカル / クラウド振り分け
- ゲートウェイ製品：LiteLLM / OpenRouter / Portkeyなどのルーティング製品を活用
最初はルールベースで開始、運用ログが溜まったら分類モデル / ゲートウェイ製品に進化。
データガバナンス観点
監査ログ
ローカルLLMは 入力 / 出力ログを自前で持つ。これがクラウドAPI（特にEnterprise契約のないデフォルトAPI）に対する大きな優位。
- 月次の入出力サンプリングレビュー
- 規制対応の証跡保管（7年など業界要件次第）
- 内部監査 / 外部監査での提示
モデル更新ポリシー
オープンウェイトモデルは数ヶ月単位でメジャー更新が出る。
- セキュリティパッチ：適用SLAを30日以内などで定義
- 性能改善：四半期評価で更新判定（A/Bテスト後の段階的展開）
- 切り替え検証：既存業務での品質劣化を検査するベンチマークを社内に持つ
セキュリティパッチ
- 推論基盤（vLLM / TGI等）のCVE対応：月次パッチ
- OS / コンテナ：通常の運用基盤と同等
- モデル本体の脆弱性（プロンプトインジェクション等）：社内Red Team / 監査
FAQ
Q1. 日本語性能が一番高いオープンウェイトは？
「これ」と言い切れる定説は無い。 モデルの入れ替わりが四半期単位で起きており、公開ベンチマークの順位は次の更新で入れ替わる前提で見るべきである。
日本語を主目的に開発された選択肢としては、国立情報学研究所のllm-jp-4.1-33b-thinking（Apache 2.0、33B、コンテキスト65,536。モデルカード上は研究開発用）と、Preferred NetworksのPLaMo 3系（31B。ただし商用利用は事前登録が必要で、年商10億円超は別途商用ライセンスが必要）がある。汎用モデル側では Qwen3.8-27B / Gemma 4 31B が多言語で安定しており、NVIDIAのNemotron 3.5 Lightning 30B-A3Bも対応言語に日本語を挙げている。
決め方は変わらない。自社業務の評価セット（500〜1,000サンプル）を作り、候補3つを実測する。 評価セットは一度作れば次のモデル更新でも使い回せる。ベンチマーク順位を追うより、自社の評価セットを持つことのほうが長期的な資産になる。
Q2. ライセンスで商用利用に注意すべきモデルは？
法務レビューを必須にすべきは独自ライセンスの7つである。
- PLaMo 3系（Preferred Networks）：PLaMo community license。商用利用にはPFNへの事前登録が必要で、利用者または関係会社の年商が10億円を超える場合は別途PFNから商用ライセンスの取得が必要。エンタープライズはほぼ確実にこの条件に該当する
- Qwen3.8-Flash-Next（Alibaba）：Qwen Community License 1.0。利用者または関係会社がModel as a ServiceかAI Work Assistantの事業を行う場合、売上規模にかかわらず商用利用の前に別ライセンスが必要（第三者に提供しない社内利用は対象外）
- Qwen3.8-2.4T-A95B（Alibaba）：Qwen3.8-Max License。上と同じ事業を行い、関係会社を含む売上が直近12か月で5,000万ドルを超える場合に別ライセンスが必要
- Kimi K3（Moonshot AI）：Kimi K3 License。利用者または関係会社がModel as a Serviceの事業を行い、関係会社を含む売上が直近12か月で2,000万ドルを超える場合に別契約が必要
- GLM-5.3（Z.ai）：GLM-5.3 License。利用者または関係会社がModel as a Serviceの事業を行い、関係会社を含む売上が直近12か月で100億ドルを超える場合、商用利用の前にZ.aiのセキュリティ審査が必要
- Muse Spark Open（Meta）：Muse Model License。このモデルや派生モデルを使う製品・サービスには、規模にかかわらず「Built with Muse Spark Open」の表示が必要。利用者または関係会社がModel as a Serviceの事業を行い、関係会社を含む売上が直近12か月で2,000万ドルを超える場合は、Metaへの通知と別契約が必要（第三者に提供しない社内利用は対象外）
- Mistral Large 4（Mistral AI）：Mistral Ecosystem Open-Weight License。利用者または関係会社がModel as a Serviceの事業を行う場合、売上規模にかかわらず商用利用の前にMistral AIから別の商用ライセンスが必要（第三者に提供しない社内利用は対象外）。著作権表示の同梱も求められる
Qwen3.8-Flash-Next、Qwen3.8-2.4T-A95B、Kimi K3は、月間利用者1億人超または月商2,000万ドル超の製品に使う場合、画面上にモデル名を表示する義務もある。
表示義務のみで商用利用・改変・再配布が可能なのは、Qwen3.8-27B / Gemma 4 31B / Muse Glimmer 30B / llm-jp-4.1-33b / Mistral-Small-4-119B / gpt-oss-120b / Hy4 preview（いずれも Apache 2.0）、Nemotron 3.5 Lightning（OpenMDW-1.1）、DeepSeek-V4系 / GLM-5.3-Flash / MiMo-V2.6系 / Ling-3.1-flash-1019（MIT）である。
ベンダー名でライセンスを推測しないこと。同じ提供元・同じ世代でもモデルごとに条件が違う。なお本記事のライセンス記述は2026年11月4日時点で確認できた範囲の結果であり、法的助言ではない。MiMo-V2.6とLing-3.1-flash-1019はライセンス条文のファイルが公開されておらず、モデルカードのMIT表記で判断した。Muse Spark Openの条文は10月20日に確認したものである。採用判断では原文の最新版を確認し、自社法務のレビューを通すこと。
Q3. 推論基盤はvLLM一択か？
エンタープライズ本番はvLLMが現時点でデファクトだが、用途によって変わる。
- 本番運用 / 高スループット：vLLM
- オンプレ / 軽量 / CPU：llama.cpp
- HuggingFaceエコシステム：TGI
- PoC / 開発：Ollama
- 構造化出力多用 / 最新最適化：SGLang
複数併用も普通。検証はOllama、本番はvLLM、エッジはllama.cppというケースが多い。
Q4. 何GPU必要か？
業務要件から逆算する。
- 小規模PoC / 個人 / 20B級量子化：RTX 4090 1枚（$1.6K）
- 中規模本番 / 27〜33B級：RTX 6000 Ada 1枚（$7K〜）またはH100×1（$25K〜）。BF16のまま載せるならRTX PRO 6000 Blackwell（96GB）も候補
- 大規模本番 / 120B級MoE：H100×1〜H200×1（$25K〜）。MoEは総パラメータ分の重みを載せる必要があるためアクティブ数で見積もらないが、配布形式が低精度なら下がる（gpt-oss-120bは80GB 1枚）
- 重みファイル180〜330GB級のMoE：H200×2〜4（$60K〜$120K）。Qwen3.8-Flash-Next / MiMo-V2.6-Flash / GLM-5.3-Flash
- 重みファイル約500〜1,100GB級：H200×4〜8（$120K〜$240K）。GLM-5.3 / Hy4 preview / Ling-3.1-flash-1019 / DeepSeek-V4-Pro-0813 など。Mistral Large 4（FP8版で約1,061GB）はH200×8が要り、KVキャッシュの余地は小さい
- 1ノードに収まらないフラッグシップ：Kimi K3 / Qwen3.8-2.4T。APIまたはマネージド推論を使う
冷却 / 電源 / ネットワーク機器を含めると上記の1.5倍が初期コスト目安。
構成要件を自社の業務に当てはめたい場合は、FDXに相談する。
Q5. セキュリティパッチはどう運用する？
次の3階層で運用する。
- OS / コンテナ：通常の運用基盤と同等（月次パッチ / 緊急パッチ）
- 推論基盤（vLLM / TGI）：GitHub Watchでリリース追跡 / 月次パッチ
- モデル本体：四半期での更新評価 / 重大バグはホットフィックス
国内DC環境では適用に承認プロセスが必要。SLAを明確化しておく。
Q6. クラウドAPIより本当に安くなるか？
3〜5年TCOで評価する。月1億トークン以上を24h 365日で消費する業務でないと、自社オンプレが安くなることは少ない。
それ未満なら 専用クラウドGPU（Together / Fireworks / Lambda Labs）またはMarketplace経由のホスティングモデル がコストパフォーマンスで勝る。
構成要件を自社の業務に当てはめたい場合は、FDXに相談する。
Q7. ハイブリッド設計でクラウド側はどう選ぶ？
次の3要素で評価する。
- 最新モデル性能：Claude / GPT / Gemini の各上位モデル
- Enterprise契約：データ学習除外 / ログ保存制御 / SLA
- 国内DC提供：AWS Tokyo / GCP Tokyo / Azure Japan East等
機微情報はローカル、高難度推論はクラウドという役割分担が定石。両側でモデルを揃える必要はなく、強み別に使い分ける。
FDXのローカルLLM導入支援
FDX株式会社は、Forward Deployed Engineer（FDE）+ プラットフォームエンジニアリング によって、ローカルLLM導入を支援する。
- 要件診断（ガバナンス / コスト / レイテンシの3軸評価）
- モデル選定 + ライセンス精査
- 推論基盤構築（vLLM / TGI / llama.cpp）
- クラウドAPIとのハイブリッドアーキテクチャ設計
- 監査ログ / セキュリティ / パッチ運用の整備
- 6〜12ヶ月の運用伴走 → 内製チームへ引き継ぎ
「クラウドAPIでコストが想定5倍」「機微データでクラウド使えない」という典型課題に対して、ハイブリッド設計で現実解を提示する。
関連記事
- オープンウェイトモデルとは？オープンソースとの違いと商用利用
- AIトークン節約5パターン｜LLMコストを50〜80%削る本番設計
- ループエンジニアリング入門｜自律エージェントを"動かし続ける"ハーネス設計
- AIエージェント完全ガイド｜2026年版
- LangGraph実装入門｜エンタープライズのAIエージェント構築フレームワーク
- AI内製化の進め方｜外注依存から脱却する5ステップ
- DS+FDEハイブリッドチーム設計
まとめ
- ローカルLLMは、データ持ち出し禁止・月数千万トークン超の長期運用・サブ秒レイテンシ要求の3ケースで検討する
- 自社に建てやすいのは、FP8または4bit量子化でGPU1枚で動く27〜33B級。120B〜320B級にも選択肢が戻ったが、1ノードに収まらないフラッグシップはAPIで使う
- ライセンスはベンダー名で推測せずモデル単位で読む。同じ提供元・同じ世代でも条件が違う。独自ライセンス（PLaMo community license / Qwen3.8-Max / Qwen Community 1.0 / Kimi K3 / GLM-5.3 / Muse Model License）は法務レビュー必須で、特にPLaMo 3は年商10億円超で別途商用契約が必要
- 日本語性能に定説は無い。自社の評価セット（500〜1,000サンプル）を作って実測する。評価セットは次のモデル更新でも再利用できる資産になる
- 推論基盤は本番はvLLM、軽量・オンプレはllama.cpp、検証はOllamaと用途で使い分ける
- コストは3〜5年TCOで評価する。24h 365日フル稼働でなければ専用クラウドGPUが優位なことが多い
- 完全ローカル化ではなく、機微情報はローカル・高難度推論はクラウドAPIのハイブリッド設計が定石
- 監査ログ・モデル更新ポリシー・セキュリティパッチまで含めた運用設計とセットで導入を判断する
出典・参考文献
モデルの諸元（パラメータ数・コンテキスト長・ライセンス）は、以下の公式モデルカード・公式リポジトリの設定ファイルとライセンス条文で確認した値を記載している（2026年11月4日確認）。重みファイルの容量は、各公式リポジトリに置かれたsafetensorsファイルの合計である。
- Moonshot AI「Kimi-K3 Model Card / Kimi K3 License」
- Alibaba「Qwen3.8-2.4T-A95B / Qwen3.8-Flash-Next / Qwen3.8-27B Model Card」「Qwen3.8-Max License」「Qwen Community License 1.0」
- DeepSeek AI「DeepSeek-V4-Pro-0813 / DeepSeek-V4.1-Flash / DeepSeek-V4.1-Flash-1017 Model Card」
- Xiaomi「MiMo-V2.6-Pro / MiMo-V2.6-Flash Model Card」
- Tencent「Hy4 preview Model Card」
- Z.ai「GLM-5.3 / GLM-5.3-Flash / GLM-5.2 Model Card」「GLM-5.3 License」
- Mistral AI「Mistral-Small-4-119B-2603 / Mistral-Large-4-1T-A52B / Mistral-Large-4-1T-A52B-NVFP4 Model Card」「Mistral Ecosystem Open-Weight License」
- OpenAI「gpt-oss-120b Model Card」
- Google「gemma-4-31B-it Model Card」
- NVIDIA「NVIDIA-Nemotron-3.5-Lightning-30B-A3B Model Card」、OpenMDW「OpenMDW License Agreement 1.1」
- Meta「Muse-Glimmer-30B / Muse-Spark-Open-816B-A42B Model Card」「Muse Model License」
- inclusionAI「Ling-3.1-flash / Ling-3.1-flash-1019 Model Card」
- 国立情報学研究所「llm-jp-4.1-33b-thinking Model Card」
- Preferred Networks「plamo-3-nict-31b-base Model Card / PLaMo Community License」
- Aleph Alpha「Kolibri-1 Model Card」
- StepFun「Step-5-Preview Model Card」、MiniMax「MiniMax-M3 Model Card」、Mistral AI「Mistral-Medium-3.5-128B License」
- NVIDIA「RTX PRO 6000 Blackwell 製品仕様」
- vLLM Documentation「PagedAttention / OpenAI API Compat」
- HuggingFace「TGI Documentation」
- llama.cpp GitHub README
更新履歴
本記事はモデルの入れ替わりが速い領域を扱うため、原則として月次でモデル一覧・ライセンス・GPU要件を見直している（最終更新日は冒頭に記載）。
- 2026年11月4日：Mistral Large 4（Mistral AI）を一覧に追加し、Ling-3.1-flashを改良版の-1019に更新。独自ライセンスにMistral Ecosystem Open-Weight Licenseを加えた。MiMo-V2.6系のモデルカードに追加された利用制限を追記した。各モデルの重みとライセンスの更新を2026年11月4日時点で確認した（申請制のMuse Spark Openはリポジトリの最終更新日で判断）
- 2026年10月20日：Muse Spark Open（Meta）とLing-3.1-flash（inclusionAI）を一覧に追加し、DeepSeek-V4.1-Flashを小改良版の-1017に更新。独自ライセンスにMuse Model Licenseを加えた。全モデルのライセンス条文と重みファイル容量を2026年10月20日時点で確認し直した。タイトルと冒頭の要点を改め、定義の詳しい説明を記事44に分けた
- 2026年10月19日：「オープンウェイトモデルとは」の節を10月時点の内容に改め、定義を加えた。時点表記を節冒頭の注記にまとめた
- 2026年10月10日：モデル一覧を更新（GLM-5.3 / GLM-5.3-Flash / DeepSeek-V4.1-Flash / MiMo-V2.6 / Hy4 preview / Qwen3.8-Flash-Next / Nemotron 3.5 Lightning / llm-jp-4.1 を追加し、GLM-5.2 / DeepSeek-V4-Flash-0731 / llm-jp-4-33b を後継に置き換え）。独自ライセンスの条件を条文ベースで追記し、GPU表を公式の重みファイル容量基準に改めた。6月時点のモデルを描いた比較マトリクス図を削除
- 2026年8月26日：モデル一覧を全面刷新（Kimi K3 / Qwen3.8 / DeepSeek V4 / GLM-5.2 / Gemma 4 / Muse Glimmer / llm-jp-4 / PLaMo 3 を追加）。ライセンス潮流の変化、規模の二極化、VRAM試算の考え方を追記
- 2026年7月7日：初版公開後の表記修正
- 2026年7月3日：初版公開