オンプレミスAI・ローカルLLM・クローズドAIの違いと選び方
オンプレミスAIは「自社の設備に置いたサーバーで、組織として運用する生成AI」、ローカルLLMは「クラウドを使わずに手元の機器で動かす生成AI全般」を指す、より広い言葉です。クローズドAI（クローズドLLM）は、「閉域の環境で使うAI」と「中身が公開されていないAIモデル」という、2つの違う意味で使われます。
どれも「社内のデータを外に出さずに生成AIを使いたい」という文脈でよく出てくる言葉ですが、指す範囲が少しずつ違います。この記事では、言葉の違いを整理したうえで、社内で生成AIを使う方式の比べ方と、選ぶときに確認したい点を紹介します。
この記事の要点
- ローカルLLMは「どこで動かすか」を表す広い言葉で、個人のPCで試す場合も含む。オンプレミスAIは、自社の設備で組織として運用するところまで含めて使われることが多い
- 「クローズド」には「閉域で使う」と「モデルの中身が非公開」の2つの意味がある。話がかみ合わないときは、どちらの意味かを確かめる
- 自社の機器で動かせるのは、重みが公開された「オープンモデル」。ライセンスはモデルごとに違う
- 方式を選ぶときは、データを社外に送ってよいか、ネットに接続できるか、利用人数、閲覧権限と記録、保守と更新の担い手、を確認する
1. 言葉の違いを一覧で整理
まず、よく出てくる言葉が何を指しているかを並べます。同じ言葉でも人によって使い方が違うことがあるため、ここでは一般的な使われ方を示します。
| 呼び方 | 意味 | 動かす場所 | 気を付けたい点 |
|---|---|---|---|
| オンプレミスAI （オンプレAI・オンプレLLM） | 自社が管理する設備に置いたサーバーで動かす生成AI | 社内のサーバー室、データセンターなど | 権限の管理・記録・保守など、組織での運用まで含めて考えることが多い |
| ローカルLLM （ローカルAI） | クラウドを使わずに手元の機器で動かす生成AI全般 | 個人のPCから社内のサーバーまで | 個人の試用も含む広い言葉。組織で使うための仕組みが含まれるとは限らない |
| クローズドAI （閉域の意味） | インターネットから切り離した閉域の環境で使う生成AI | 閉域網の中のサーバー | 「クローズド」は下の「非公開」の意味でも使われる |
| クローズドモデル （非公開の意味） | 中身（重み）が公開されていないAIモデル | 多くは提供事業者のクラウド | 自社の機器では動かせないことが多い |
| オープンモデル （オープンウェイト） | 重みが公開されていて、自社の機器でも動かせるAIモデル | 自社の機器、クラウドのどちらでも | 商用利用の条件など、ライセンスはモデルごとに違う |
| クラウドの生成AI | 事業者のクラウドで動く生成AIを、インターネット経由で使うもの | 事業者のクラウド | 入力したデータは社外のサーバーで処理される |
2. 「クローズド」は2つの意味で使われる
いちばん取り違えやすいのが「クローズドAI」「クローズドLLM」です。
- 閉域で使う、という意味：インターネットから切り離したネットワークの中で生成AIを使うことを指します。外部との通信を許さない環境で使いたい、という要望を表すときの言い方です。
- モデルの中身が非公開、という意味：AIモデルの重みが公開されておらず、提供事業者のサービスを通じてしか使えないモデルを指します。この意味での反対の言葉は、重みが公開された「オープンモデル」です。
この2つは、両立しにくいことがあります。中身が非公開のモデルの多くは事業者のクラウドで提供されているため、インターネットにつながない自社の設備では動かせないからです。社内で「クローズドLLMを入れたい」という話が出たら、閉域で使いたいのか、特定の非公開モデルを使いたいのかを、最初に確かめておくと話が早く進みます。
3. オンプレミスAIとローカルLLMの違い
ローカルLLMは「クラウドではなく手元で動かす」という、動かす場所の話です。個人のPCにオープンモデルを入れて試すのも、ローカルLLMに含まれます。
オンプレミスAIは、動かす場所が自社の設備であることに加えて、組織として使い続けるところまで含めて語られることの多い言葉です。個人で試すのと、社員が業務で毎日使うのとでは、必要になるものが変わります。
- 同時に何人かが使っても、待たされずに答えが返ってくる機器
- 社内文書を検索させるときに、社員ごとの閲覧権限が回答にも反映される仕組み
- 誰が・いつ・どの文書を使ったかの記録
- 機器の保守と、AIモデルの定期的な更新
- 止まったときに誰が対応するかの体制
ローカルLLMで手応えをつかんだあと、社内に広げる段階でこうした点が課題になることがよくあります。
4. 社内で生成AIを使う方式の比較
社内で生成AIを使う方法は、大きく次の4つに分けられます。
| 方式 | データの処理場所 | ネット接続 | 使えるモデル | 運用の負担 |
|---|---|---|---|---|
| クラウドの生成AI | 事業者のクラウド | 必要 | 非公開モデルを含む最新のモデル | 小さい（利用のルール作りは自社） |
| 専用クラウド | 事業者のクラウド上の自社専用の環境 | 必要（閉域で接続できる場合もある） | サービスによる | 中くらい（設定や記録の管理が自社に残ることが多い） |
| ローカルLLMを自社で構築 | 社内 | なくても使える | オープンモデル | 大きい（機器選び・構築・保守・更新を自社で行う） |
| オンプレミスAI（運用込みのサービス） | 社内 | なくても使える | オープンモデル | 小さい（保守・更新を事業者が担う） |
※一般的な傾向です。実際の内容はサービスや契約によって異なります。
クラウドの生成AIでも、入力したデータをAIの学習に使わない設定や契約が用意されていることが多く、社外に送ってよいデータであれば、手軽で有力な選択肢です。一方で、社内規程や取引先との契約でデータを社外のサーバーに送れない場合や、インターネットに接続しない環境で使いたい場合は、社内で動かす方式が候補になります。
5. 選ぶときの確認ポイント
どの方式が合うかは、扱うデータと使い方で決まります。次の点を確認しておくと、比較がしやすくなります。
- 扱うデータを、社外のサーバーに送ってよいか（社内規程、取引先との契約、個人情報の扱い）
- 使う場所がインターネットに接続できるか
- 何人が、どんな作業に使うか（同時に使う人数と、求める応答の速さ）
- 社内文書を検索させる場合、社員ごとの閲覧権限をAIの回答にも反映できるか
- 誰が・いつ・何を使ったかの記録を残し、あとから確かめられるか
- 機器の保守とAIモデルの更新を、誰が担うか
- 使いたいモデルのライセンスが、自社の用途での利用を認めているか
社内で動かす方式では、特に「何人で、どんな作業に使うか」によって必要な機器の構成が大きく変わります。モデルの大きさや、一度に読ませる文書の量でも、同時に使える人数は変わります。
6. ミクロスのオンプレミスAIでできること・できないこと
ミクロスのオンプレミスAIは、株式会社ミクロスソフトウエアが提供する、お客様の社内に置いたサーバーで動かす生成AIのサービスです（2026年11月時点の内容です）。
できること
- お客様の社内に置いたサーバー（NVIDIA DGX Spark など）で動かし、業務データを社外のクラウドに送らずに使えます
- インターネットに接続しない閉域の環境にも導入できます（現地での調整作業が必要になり、調整費は別途お見積りします）
- AIアクセス管理機能が、社員ごとの役職・所属に応じた閲覧権限を照合し、権限のない社内文書をAIに渡しません。マクロなど危険な要素を含む添付ファイルの遮断と、利用の記録も行います
- AIモデルは、重みが公開されたオープンモデル（gpt-oss-20b、Gemma 4 26B A4B、Cohere Command A+ など）から、用途に合わせてご提案します
- 機器の調達、初期構築、保守、AIモデルの定期更新までを含めた月額サブスクリプションでご提供します
できないこと
- クラウドでだけ提供されている非公開のモデルを、社内のサーバーで動かすことはできません
- 社員が私物の端末や外部のAIサービスに直接入力すること自体を防ぐことはできません（使いやすい社内のAIを用意することで、私的な利用を減らす効果は期待できます）
- 1台で大人数が同時に高度な作業をすることには向きません。クイックスタートプラン（DGX Spark 1台）の目安は、Q&Aチャットや文書要約などの簡単な作業で同時5〜10人程度です
モデルごとに、同時に何人まで使えるか、回答が出始めるまでの時間、日本語の指示にどこまで従えるかを DGX Spark の実機で測った結果は、サービス説明資料（PDF）にダイジェスト版を収録しています。自社で使う場合の規模の目安を考える材料としてお使いください。
7. よくあるご質問
Q. ローカルLLMとオンプレミスAIは同じものですか？
A. 重なる部分はありますが、同じではありません。ローカルLLMは、クラウドを使わずに手元の機器で動かす生成AI全般を指し、個人のPCで試す場合も含みます。オンプレミスAIは、自社の設備に置いたサーバーで動かし、組織として運用するものを指すことが多い言葉です。
Q. クローズドLLMとは何ですか？
A. 2つの意味で使われます。インターネットから切り離した閉域の環境で使う生成AIという意味と、中身（重み）が公開されていないAIモデルという意味です。話している相手がどちらの意味で使っているかを確かめてください。
Q. オープンモデルは無料で商用利用できますか？
A. モデルによって違います。たとえば gpt-oss は Apache License 2.0 で公開されていますが、モデルによっては商用利用に条件があったり、別の契約が必要だったりします。導入する前に、使うモデルのライセンスを確認してください。
Q. クラウドの生成AIは使わない方がよいですか？
A. 一概には言えません。社外に送ってよいデータを扱う業務なら、クラウドの生成AIは手軽で、最新のモデルを使えます。社外に出せないデータを扱う業務や、インターネットに接続しない環境で使いたい場合に、オンプレミスAIが選択肢になります。業務ごとに使い分ける方法もあります。
8. まとめ
- ローカルLLMは手元で動かす生成AI全般を指す広い言葉。オンプレミスAIは、自社の設備で組織として運用するところまで含めて使われることが多い
- 「クローズド」は「閉域で使う」と「モデルの中身が非公開」の2つの意味があり、両立しにくいこともある
- 自社の機器で動かせるのはオープンモデル。ライセンスはモデルごとに確認する
- データを社外に送ってよいか、ネット接続、利用人数、閲覧権限と記録、保守と更新の担い手で、方式を比べる