ローカルLLMは安全か：セキュリティの設定と確認方法

ローカルLLM（社内に置く生成AI）は、外部通信の遮断と暗号化を設定し、そのとおりに動いていることを確認すれば、入力した内容を社外へ送らずに使えます。AIサーバーを社内に置いただけでは、社外への通信が止まっているとは限りません。

以下では、どの会社に構築を依頼する場合にも使える一般的な観点と、当社の導入支援で行うことを、分けて書きます。

社外へ送らないと言えるのは、AIサーバーの中で行う処理と保存までです。質問や資料の内容、AIの回答、会話の履歴が、その対象になります。

利用者のPCは、この範囲に入りません。PCがインターネットにつながっていれば、画面に出た回答やダウンロードしたファイルを、メールなどで社外へ出せます。この部分は、利用ルールとPCの管理で対応します。

当社の導入支援では、質問や資料の内容を、設置したAIサーバーの中で処理・保存します。社外のAIサービスは利用せず、入力した内容がAIの学習に使われることはありません。

ローカルLLMは、オンプレミスLLM、社内LLMと呼ばれることもあります。呼び名だけでは設置場所や通信のしかたは決まらないため、提案を受けたら、どの通信を遮断しているかを項目ごとに確認します。

設定するのは、外部通信の遮断、利用者の認証、通信と保存の暗号化です。防ぐものがそれぞれ違うため、組み合わせて使います。

外部通信の遮断と、例外にする通信

AIサーバーから社外への通信は、拒否する設定を基本にして、必要な通信だけを例外にします。例外は、宛先と目的を一覧にしておきます。

例外の代表は、時刻合わせの通信と、ソフトウェアを更新するときの接続です。時刻合わせを残すのは、ログ（機器の動作や利用の記録）の時刻を正しく保つためです。総務省の「国民のためのサイバーセキュリティサイト」は、時刻がそろっていないと、ログの時刻がずれ、システムの間でログを突き合わせる分析が難しくなるとしています。

通信を遮断したAIサーバーは、更新を自動では受け取れません。更新するときは、そのときだけ一時的に接続するか、別の機器で取得した更新用のファイルを持ち込みます。一時的に接続した場合は、終わったら遮断した状態に戻します。

利用者の認証

利用者ごとのアカウントでログインする設定にし、ログインや操作の記録を残しておくと、誰が使ったかを記録から追えます。アカウントを複数の人で共用すると、追えなくなります。アカウントを利用者ごとに発行できるか、設定を変更できる管理者を絞れるかは、構築を依頼する会社に確認します。異動や退職のときにアカウントを止める手続きは、社内で決めます。

通信と保存の暗号化

PCとAIサーバーの間の通信を暗号化するのは、社内ネットワークの中での盗み見を防ぐためです。AIサーバーのディスクの暗号化は、機器が持ち去られたときに、保存したデータを読み出されにくくするための設定です。

• セキュリティ当社が構築する環境の、設定の内容を見る

社外への通信がないことは、設定の内容と実際の通信の両方を見て確認します。設定の画面を見ただけでは、通信が実際に止まっているかどうかまでは分からないためです。

次の表は、自社で構築する場合にも、構築を依頼する場合にも使える、一般的な観点です。

確認の手順

1. 1遮断の設定と、例外にしている通信の一覧を見る
2. 2AIサーバーから社外への接続を試し、例外にした宛先のほかはつながらないことを確認する
3. 3質問や資料の読み込みをしながら、その間の通信の記録を見る
4. 4結果を書面に残し、構築した会社と自社の双方で保管する
5. 5ソフトウェアの更新や設定の変更のあとに、同じ項目で確認し直す

構築を依頼する場合は、どの項目を誰がいつ確認するのか、結果を書面で受け取れるのかを、提案を受ける段階で聞いておきます。

当社の導入支援では、外部通信を遮断する設定を、基本構築に含めています。

社外への通信を遮断しても、社内で起きる情報漏洩や事故のリスクは残ります。AIサーバーは機密情報が集まる場所になるため、次の表のリスクごとに備えを決めます。

表の備えの多くは、生成AIに限らない情報セキュリティの基本です。ファイルサーバーなど、機密情報を置いているほかの機器と同じ水準で管理します。

当社の導入支援では、会話履歴のバックアップは行いません。故障のあとは、設定の控えから環境を作り直しますが、会話の履歴は戻りません。

個人データを入力する場合は、この管理が法律上の義務にも関わります。個人情報保護委員会の「個人情報の保護に関する法律についてのガイドライン（通則編）」（2026年6月一部改正）は、講じなければならない安全管理措置を示しています。アクセス制御、機器の盗難の防止、個人データを記録した機器を復元できない手段で廃棄することが、その中にあります。

会話の履歴は、閲覧できる人と保存する期間を、使い始める前に決めておきます。人事や給与の資料のように、社内でも閲覧できる人が限られる情報が、履歴に残るためです。

決められる範囲は、使うソフトウェアと設定で変わります。構築を依頼する会社に、次の点を確認します。

• 管理者は、ほかの利用者の履歴を閲覧できるか
• 履歴を残す期間を設定できるか。利用者が自分で削除できるか
• 誰がいつログインしたかの記録を取得できるか
• 履歴と記録は、どこに保存されるか

当社が構築する環境では、会話の履歴と操作の記録を、AIサーバーの中に保存します。AIサーバー本体を操作できる方は、保存された会話の記録を読める立場になります。

導入後は、ソフトウェアの更新と、利用ルールの見直しを続けます。設置時に確認できるのは、その時点の状態までです。

ソフトウェアの更新

IPAの「中小企業の情報セキュリティ対策ガイドライン 第4.0版」（2026年3月）は、OSやソフトウェアのセキュリティに関するアップデートを、速やかに適用する運用を定めるよう勧めています。通信を遮断したAIサーバーも、例外ではありません。誰がいつ、どの手順で更新するかを決め、更新のあとには、遮断した状態へ戻っていることを確認します。

当社の導入支援では、公開されているソフトウェアを組み合わせ、当社で検証したバージョンを固定して導入します。導入後の更新は、月額保守（任意）の中で行います。定期の更新のほか、重大な不具合の修正が公開され、導入した環境に当てはまると当社が判断したときは、臨時の更新を行います。

利用ルール

利用ルールでは、誰がどの種類の情報を入力できるか、回答や作成したファイルをどこまで共有できるか、回答をどう確認するかを決めます。

定期的に見直す項目

• アカウントと権限に、異動や退職が反映されているか
• 記録に、不審なログインや利用がないか
• 更新が適用され、更新後に遮断した状態へ戻っているか
• バックアップを取得できているか、復旧できるか
• 利用ルールが実際の使い方と合っているか、周知できているか

AIサーバーの設置場所と、管理する担当者を決められない場合は、クラウドの生成AIのほうが向いています。機器を社内に置くと、設置場所の管理とソフトウェアの更新を、導入後も自社で続けることになるためです。アカウントと権限の見直しは、どちらを選んでも必要です。

社外から利用したい場合は、社外からの入口を設けることになり、確認する通信が増えます。当社の導入支援では、社外からの入口を設けないことを安全の前提にしており、社外からの利用には対応していません。

機密情報を扱わない業務は、多くの場合、クラウドの生成AIで足ります。回答の精度やインターネット検索を優先する業務にも、クラウドのほうが向いています。

社外に出せない情報を扱い、管理する担当者も決められる場合は、ローカルLLMが選択肢になります。