ローカルLLMとクラウドの
生成AIの違いと選び方

クラウドの生成AIでは、入力した内容がサービス事業者のサーバーへ送信されます。ローカルLLM（社内に置く生成AI）では、社内に置いたAIサーバーの中で処理するため、社外のサービス事業者へ送信せずに使えます。そのかわり、クラウドの最新モデルに回答の精度が及ばない場合があり、機器の設置場所と運用の担当者も必要です。

選ぶときは、次の点を自社に当てはめて考えます。

• 社外に出せない情報を、日常的に生成AIへ入力したいか
• クラウドの最新モデルの精度が、その業務に欠かせないか
• AIサーバーを置く場所と、社内の窓口になる人を用意できるか

社外に出せない情報を入力する予定がなければ、法人向けのクラウドの生成AIで足ります。入力したい業務が決まっていて、AIサーバーを置く場所と窓口になる人を用意できるなら、ローカルLLMを検討します。最新モデルの精度が欠かせない業務は、入力する情報を社外に出してよいものに絞り、クラウドの生成AIを使います。情報の種類で使い分けて、両方を併用する方法もあります。

ローカルLLMは、オンプレミスLLM、社内LLMと呼ばれることもあります。

クラウドの生成AIとローカルLLMは、入力した内容の送信先、学習への利用、回答の精度、運用の担当、費用のかかり方が違います。クラウドの生成AIは、契約の形で入力した内容の扱いが変わるため、個人向けと法人向けに分けて比べます。個人が自分で登録して使うものが個人向け、会社が契約し、企業での利用を想定した契約条件と管理機能を備えるものが法人向けです。法人向けにも、オンラインで利用規約に同意して申し込むものがあります。

クラウドの生成AIの利点は、機器を持たずに始められることと、サーバーの運用をサービス事業者が担うことです。ローカルLLMでは、設定と運用を自社か保守の委託先が担います。回答に誤りが含まれることがある点は、どちらも同じです。重要な判断は原文で確認します。

入力する情報が社外に出してよいものに限られ、契約条件を確認できるなら、クラウドの生成AIで足ります。次のような場合が当てはまります。

• 扱う情報の中心が、公開済みの資料や、社外に出しても支障のない文章である
• 回答の精度を優先したい
• インターネット検索と組み合わせて使いたい（対応しているかは、サービスごとに確認します）
• AIサーバーを置く場所や運用の担当者を、社内に用意しにくい
• 社外や出先から使う場面が多い
• 利用する人が限られ、使う頻度もまだ見通せない

業務で使うなら、法人向けを選びます。総務省と経済産業省の「AI事業者ガイドライン（第1.2版）」（2026年3月）の別添は、機密情報を処理する企業に、ビジネス利用を想定してセキュリティ機能が組み込まれたサービスを使うよう推奨しています。会社として使うサービスを決めておかないと、従業員が個人向けの生成AIを業務に使い、入力した内容を会社が把握できなくなるおそれがあります。

法人向けのクラウドの生成AIでも、入力した内容の扱いはサービスごとに異なります。利用を始める前に、次の項目を利用規約、契約書、管理画面で確認します。

表の項目のうち、学習への利用から記録と権限までの6項目は、個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等」（2023年6月）と、デジタル庁が公開している政府機関向けの「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」（2026年6月改定）をもとにしています。取引先との秘密保持契約は、企業での利用に合わせて当社が加えた項目です。

利用規約や契約書を読んでも分からない項目は、サービス事業者に問い合わせます。答えが得られない項目が残る間は、社外に出せない情報を入力しません。利用規約と設定は契約のあとに変わることがあるため、時期を決めて、同じ項目を確認し直します。

すべての項目を満たしても、社内の規程や取引先との契約によって、社外のサービスに入力できない情報が残る場合があります。

社外に出せない機密情報を、日常的に生成AIで扱う業務には、ローカルLLMが向いています。たとえば、次のような場合です。

• 契約書、人事や給与の資料、財務の資料、顧客情報を含む資料を、そのまま読み込ませたい
• 取引先との契約や社内規程で、社外のサービスへの入力が認められていない情報がある
• 入力してよいかを利用者がその都度判断する運用では、情報漏洩の不安が残る
• 入力した内容の保存先を、自社で管理できる範囲にとどめたい

ローカルLLMは、入力した内容を社内のAIサーバーの中で処理し、サービス事業者へ送信しない構成にできます。AIサーバーを社内に置くだけでは足りず、社外への通信を止める設定が必要です。当社の導入支援では、AIサーバーから社外への通信を遮断します（時刻合わせの通信を除きます）。社外への接続を一時的に開くのは、月額保守でソフトウェアを更新するときだけです。

クラウドの生成AIで足りる場合に当てはまるなら、ローカルLLMは向きません。導入時に機器代と構築費がかかり、機器を置く場所と運用の担当者も必要になるためです。

ローカルLLMでも、利用ルールは必要です。入力してよい情報の範囲と入力できる人、回答を確認する手順を決めておきます。

併用するときは、情報の種類ごとに、入力してよい環境を決めます。線引きがあいまいなままだと、機密情報を誤ってクラウドの生成AIに入力し、情報漏洩につながるおそれがあります。

この表は一例です。線引きは、社内の規程と取引先との契約で変わります。クラウドの生成AIに入力してよいかは、先に挙げた、契約と設定の確認項目に照らして決めます。

使い分けの決め方

1. 1社内の情報を種類に分け、種類ごとに具体例を挙げる
2. 2種類ごとに、入力してよい環境を決める
3. 3どの種類か迷う情報の扱いを決める（迷ったらローカルLLMに入力する、など）
4. 4決めた内容を利用ルールとして文書にし、利用者に周知する
5. 5サービスの規約の変更や業務の変化に合わせて、定期的に見直す

情報の機密区分をすでに定めている会社は、その区分に、入力してよい環境を書き足します。当社の導入支援では、誰が何を入力できるかなど、社内の利用ルールを導入時に一緒に整理します。

クラウドの生成AIかローカルLLMかを決める前に、生成AIに入力したい資料とその機密度、利用人数と同時に利用する人数を書き出します。求める回答の精度と、運用を担える人がいるかも、あわせて整理します。

書き出した内容は、どちらを選ぶ場合も、見積もりと契約の前提になります。

当社へのご相談のときも、書き出した内容をそのまま使えます。