生成AIに機密情報を
入力してよいか:情報漏洩のリスクと対策
セキュリティ
- 更新
- 公開
生成AIに機密情報を入力してよいかは、どの情報を、どのサービスに入力するかで決まります。情報の種類ごとに確認する法律と契約、情報漏洩につながる経路、ローカルLLM(社内に置く生成AI)を含む対策の選び方を解説します。
この記事の要点
- 入力の
可否は、 情報の 種類と、 入力した 内容の 行き先で 決まります。 - 個人データ、
預かった 情報、 営業秘密で、 確認する 法律と 契約が 違います。 - 学習への
利用と 保存の 有無は、 サービスの 利用規約と 設定で 確認します。 - 社外に
出せない 情報を 扱うなら、 ローカルLLMが 選択肢に なります。
入力して よいかは 情報の 種類と 行き先で 決まる
同じ契約書でも、どの生成AIサービスに入力するかで答えは変わります。行き先を確認できないサービスには、機密情報を入力しません。入力の前に確認するのは、次の2点です。
- どの種類の情報か。個人データ、取引先から預かった情報、自社の営業秘密では、関係する法律と契約が違います。
- 入力した内容がどこへ行くか。送信先、保存の有無、AIの学習への利用は、サービスの利用規約と設定で変わります。
総務省と経済産業省の「AI事業者ガイドライン(第1.2版)」(2026年3月)は、AIを業務で利用する事業者にとって重要な事項に、機密情報などを不適切に入力しないよう注意を払うことを挙げています。別添には、具体的な手法の例もあります。入力する機密情報をサービス事業者がAIの学習データとして利用する予定の場合は、機密情報を含む内容を入力しないよう留意する、というものです。
生成AIに 入力した 内容は サービス事業者へ 送られる
クラウドの生成AIに入力した内容は、サービス事業者のサーバーへ送信され、そこで処理されます。保存されるかどうか、AIの学習に使われるかどうかは、サービスの種類と設定で変わります。確認する項目は、次の表のとおりです。
| 項目 | 確認する | 確認する |
|---|---|---|
| 送信先 | 入力した | 利用規約・契約書 |
| 保存 | 履歴の | 利用規約・管理画面 |
| 学習への | 学習に | 利用規約・設定画面 |
| 利用者の | 誰が | 管理画面・社内ルール |
利用規約と設定は、変わることがあります。使い始めたあとも、定期的に確認します。
情報漏洩は、 学習への 利用、 確認しないままの 利用、 管理の 外での 利用から 起きる
生成AIの利用が情報漏洩につながる主な経路は、学習への利用、設定と契約を確認しないままの利用、会社の管理の外での利用です。
- 入力した内容がAIの学習に使われると、そのAIの出力を通じて流出する可能性があります。
- 学習への利用や履歴の保存を確認せずに使うと、意図せず保存や学習の対象になることがあります。
- 会社が許可していないサービスに、従業員が業務の情報を入力することがあります。
同ガイドラインの別添は、3つめの経路を取り上げています。企業のルールが未整備だと、従業員が企業の管理の外で、一般の利用者向けの生成AIを業務に使うおそれがあるという指摘です。機密情報を処理する企業には、セキュリティ機能が組み込まれた、ビジネス利用を想定したサービスの利用を勧めています。
機密情報の 種類ごとに、 確認する 法律と 契約が 違う
入力の前に確認することは、個人データ、取引先から預かった情報、自社の営業秘密で異なります。個人データには個人情報保護法、預かった情報には取引先との契約、営業秘密には不正競争防止法が関係します。
| 情報の | 例 | 確認する |
|---|---|---|
| 個人データ | 従業員の | 利用目的の |
| 取引先から | 図面、 | 秘密保持契約で |
| 自社の | 原価、 | サービス事業者での |
| 公開済みの | 公表した | 社内で |
個人データは、 利用目的と 学習への 利用を 確認する
個人データを入力するときの注意点は、個人情報保護委員会が2023年6月の「生成AIサービスの利用に関する注意喚起等」で、個人情報取扱事業者に向けて示しています。個人情報を含む内容を入力する場合は、特定した利用目的の達成に必要な範囲内であることを十分に確認します。あらかじめ本人の同意を得ずに個人データを入力する場合は、サービス事業者がその個人データを機械学習に利用しないことなども、確認の対象です。入力した個人データが回答の出力以外の目的で取り扱われると、個人情報保護法に違反する可能性があるためです。
取引先から 預かった 情報は、 契約を 先に 確認する
取引先から預かった情報は、クラウドの生成AIへの入力が契約で認められているかを、先に確認します。預かった資料や取引先との契約書は、秘密保持契約などで、開示してよい相手と利用の目的が決められている場合があります。契約書を読んでも判断できないときは、入力の前に取引先へ問い合わせます。
自社の 営業秘密は、 秘密としての 管理を 保つ
自社の営業秘密は、入力したあとの扱われ方が、法的な保護にも関わります。経済産業省の「営業秘密管理指針」(2025年3月改訂)によると、不正競争防止法の営業秘密として保護を受けるには、秘密管理性、有用性、非公知性の要件をすべて満たす必要があります。同指針は、秘密として管理している情報が、生成AIの提供事業者などの第三者に提供されると、秘密管理性が否定される場合もあり得ると注記しています。入力の前にサービス事業者での情報の扱いを確認し、社内でも秘密としての管理を続けます。
指針の
同指針は、法的拘束力を持たない一つの考え方として示されたものです。個別の事案は、最終的に裁判所が具体的な状況に応じて判断すると明記されています。
入力しない 運用は すぐ 始められるが 限界が ある
すぐに始められる対策は、機密情報を入力しないと決めて、社内ルールにすることです。
経済産業省の「秘密情報の保護ハンドブック」(2024年2月改訂)は、情報を分類するときの観点に、生成AIなどへの入力を認める情報かどうかを挙げています。あらかじめ許可された生成AIを使うこと、基準にもとづいて許可された情報だけを入力することなどを、従業員が守るルールとして定める必要がある、という考え方です。社内ルールでは、次の内容を決めます。
- 利用を許可する生成AIサービス(それ以外は業務に使わない)
- 入力してよい情報と、入力してはいけない情報の区分
- 回答の扱い(誤りを含む前提で、重要な内容は原文で確認する)
- 誤って入力したときの報告先と、対応の手順
- ルールを周知する方法と、研修の時期
ひな形から
一般社団法人日本ディープラーニング協会が、「生成AIの利用ガイドライン」(第1.1版、2023年10月公開)を、ひな形として公開しています。組織での活用の目的に合わせて、追加や修正をして使うものです。
この運用には限界があります。入力するかどうかは従業員の判断に頼るため、誤った入力が起きる可能性は残ります。契約書の要約や人事資料の整理のように、機密情報そのものを扱う業務には、生成AIを使えないままです。
法人向けクラウドは 契約と 設定を 確認した 範囲で 使う
法人向けのクラウドの生成AIは、契約と設定を確認し、入力できる情報の範囲を決めたうえで使います。法人向けの契約を結んでも、入力した内容が社外のサーバーで処理されることは変わりません。
公開済みの情報や、社外に出ても支障の小さい情報が中心なら、法人向けのクラウドで足ります。機器を持たずに始められ、サーバーの運用をサービス事業者が担う点は、クラウドの利点です。
学習への利用、保存の場所と期間、取引先との秘密保持契約との関係は、利用規約と契約書の原文で確認します。
ローカルLLMは 社外へ 送らないが、 設定と ルールが 必要
ローカルLLM(社内に置く生成AI)は、社内に設置したAIサーバーの中で動かすため、入力した内容を社外へ送らずに処理できます。オンプレミスLLM、社内LLMと呼ばれることもあります。
ただし、社内に置くだけで情報漏洩を防げるわけではありません。社外への通信の遮断や暗号化を設定し、設定どおりに動いていることを確認する必要があります。当社の導入支援では、AIサーバーから社外への通信を遮断します。
社内で 処理しても、 情報の 扱いの ルールは 残る
社内で処理する場合も、個人情報を利用目的の範囲内で扱う義務は変わりません。個人情報保護法は、あらかじめ本人の同意を得ないで、特定された利用目的の達成に必要な範囲を超えて個人情報を取り扱ってはならないと定めています。条文の解説は、個人情報保護委員会の「個人情報の保護に関する法律についてのガイドライン(通則編)」(2026年6月一部改正)にあります。個人情報保護法は、2026年7月に改正法が公布されました。原則として公布から2年以内に施行される予定で、施行後は確認する内容が変わる可能性があります。人事の資料を誰が入力し、誰が回答を見られるかを、利用を始める前に決めておきます。
機密情報を 扱わないなら、 ローカルLLMは 向かない
機密情報を扱う予定がない場合や、まず試したい段階では、機器の購入と構築が不要なクラウドのほうが向いています。当社の導入支援で構築する環境は、クラウドの最新モデルに回答の精度が及ばない場合があり、インターネット検索にも対応していません。
対策は、 扱う 情報とAIに 任せたい 業務で 選ぶ
選ぶ基準は、扱う情報の種類と、AIに任せたい業務です。ここまでの対策を、同じ項目で比べます。
| 比べる | 入力しない | 法人向けクラウド | ローカルLLM |
|---|---|---|---|
| 入力した | 機密情報は | サービス事業者の | 社内のAIサーバー |
| 機密情報の | しない | 確認した | 社内ルールの |
| 確認する | 従業員の | 利用規約・契約・設定 | 外部通信の |
| 始めるまでに | ルールの | 契約と | 機器の |
| 向く | 機密情報を | 社外に | 社外に |
一つに決める必要はありません。情報の種類によって、法人向けクラウドとローカルLLMを使い分ける方法もあります。どの対策を選んでも、入力してよい情報を決める社内ルールは必要です。
出典・参考資料
- AI事業者ガイドライン(第1.2版)(2026年3月31日)(別のタブで開きます)総務省・経済産業省www.soumu.go.jp
- 生成AIサービスの利用に関する注意喚起等について(2023年6月2日)(別のタブで開きます)個人情報保護委員会www.ppc.go.jp
- 営業秘密管理指針(最終改訂:2025年3月31日)(別のタブで開きます)経済産業省www.meti.go.jp
- 秘密情報の保護ハンドブック(最終改訂:2024年2月)(別のタブで開きます)経済産業省www.meti.go.jp
- 生成AIの利用ガイドライン(第1.1版、2023年10月公開)(別のタブで開きます)一般社団法人日本ディープラーニング協会www.jdla.org
- 個人情報の保護に関する法律についてのガイドライン(通則編)(別のタブで開きます)個人情報保護委員会www.ppc.go.jp
- 個人情報の保護に関する法律(別のタブで開きます)e-Gov法令検索(デジタル庁)laws.e-gov.go.jp
- 不正競争防止法(別のタブで開きます)e-Gov法令検索(デジタル庁)laws.e-gov.go.jp
この記事は、株式会社ペルメアが作成しました。内容は更新日時点のものです。制度や各社のサービスの内容は変わることがあります。
よくある質問
- 機密情報を
生成AIに 入力してしまったら、 どうすれば よいですか - 社内の担当部門に報告し、サービスの利用規約と設定で、入力した内容の扱いを確認します。報告のときは、利用したサービス、入力した内容、日時を伝えます。個人データが含まれていた場合は、個人情報保護法の「漏えい等」に当たるかも確認します。「漏えい等」に当たり、要配慮個人情報を含む場合など一定の事態に該当するときは、個人情報保護委員会への報告と、本人への通知が必要です。
- どこまでが、
入力してはいけない 機密情報ですか - 範囲は、社内で決めます。目安になるのは、個人データ、秘密保持契約のもとで取引先から預かった情報、自社の営業秘密です。情報の分類に、生成AIへの入力を認めるかどうかの区分を加えると、従業員が判断しやすくなります。
- 学習に
使われない 設定に すれば、 機密情報を 入力できますか - 学習に使われないことは条件の一つで、それだけでは決まりません。入力した内容はサービス事業者のサーバーへ送信され、保存される場合があります。保存の有無と場所、削除の方法、取引先との契約を確認したうえで、入力できる情報の範囲を社内で決めます。
- ローカルLLMなら、
どんな 情報でも 入力できますか - 入力した内容を社外へ送らない構成にできますが、社内での扱いのルールは必要です。個人情報は利用目的の範囲内で扱い、誰が何を入力できるかを決めておきます。当社の導入支援では、社内の利用ルールを、導入時に一緒に整理します。