本文へ移動

ローカルLLM導入支援:機密情報を、そのままAIへ

ローカルLLMは、社内に設置したサーバーの中で動かす生成AIです。入力した内容は社外へ送信されません。

ローカルLLMとは

ローカルLLMの構成の模型。社員のPCとAIサーバーが社内でつながり、社外のクラウドとはつながっていない。

ローカルLLMは、社内に設置したAIサーバーの中でLLM(大規模言語モデル)を動かし、文章の要約や作成に使う生成AIです。オンプレミスLLM、社内LLMと呼ばれることもあります。

機密情報を入力できる理由

社内で完結
社外のAIサービスは利用せず、入力した内容がAIの学習に使われることもありません。
外部通信の遮断
AIサーバーから社外への通信を遮断します(時刻合わせの通信を除く)。当社から遠隔で接続することもありません。
通信と保存の暗号化
PCとサーバーの間の通信はHTTPSで暗号化し、サーバーのディスクも暗号化します。
セキュリティ仕様を見る

入力できる情報の例

  • 契約書・覚書
  • 人事・給与の資料
  • 財務・原価の資料
  • 顧客情報を含む資料
  • 未公開の企画・設計

誰が何を入力できるかなど、社内の利用ルールは導入時に一緒に整理します。

クラウドの生成AIとの違い

違いは入力した内容の行き先です

クラウドの生成AIとローカルLLMの比較
比較項目クラウドの生成AIローカルLLM(当社の導入支援)
入力した内容の行き先サービス事業者のサーバーへ送信社内のAIサーバーの中で処理・保存
AIの学習への利用サービスの種類と設定による利用されない
インターネット検索対応するサービスがある対応しない
回答の精度最新のモデルを利用できるクラウドの最新モデルに及ばない場合がある
費用のかかり方利用している間、利用料を支払う機器代と構築費がはじめにかかる。保守は任意
運用サービス事業者が運用するお客様の社内で運用する。更新は当社の月額保守(任意)で対応

向く場合

  • 契約書・人事・財務など、社外に出せない情報をAIで扱いたい
  • 社内の規程で、クラウドの生成AIへの入力が制限されている
  • 部署の全員が、同じAI環境を使えるようにしたい

向かない場合

  • インターネットの最新情報を調べる用途が中心
  • クラウドの最新モデルと同じ精度が必要
  • 機器を置く場所や、社内の窓口を用意できない

導入支援の内容

ローカルLLMの環境を、AIモデルと機器の選定から、構築、設置、操作研修まで支援します。

できること

  • 文書の要約・確認契約書や規程のPDF、スキャンした書類を読み込み、要点と確認事項を整理
  • 文章の作成・添削メール、報告書、議事録の下書きと添削
  • 資料の作成・修正Excel・PowerPoint・Word・PDFのファイルを作成・修正し、ダウンロード
  • プログラムの作成集計やデータ整形など、業務で使うプログラムを作成
  • 社内文書の検索社員が登録した規程やマニュアルから、該当する箇所を探して回答

構築の範囲

基本構築

必須

  • 業務に合わせたAIモデルの選定
  • AIモデルに合わせた機器の選定
  • AI環境の構築
  • セキュリティの設定
  • 設置とマニュアルの提供
  • 設置後3か月のお問い合わせ対応

オプション

ご要望に応じて

  • 操作研修
  • 同時利用の負荷試験
  • 停電対策
  • 他システムとの連携

公開されているソフトウェアを組み合わせ、当社で検証したバージョンを固定して導入します。

そのほかのサービス

  • 月額保守

    お問い合わせ対応、障害の調査と復旧、ソフトウェアの定期更新を行います。ご契約は任意です。

  • 業務アプリ開発

    帳票の読み取りや集計の自動化など、業務に合わせたアプリケーションを開発します。

導入の流れ

ご相談からご契約、設置まで、5つの手順で進めます。

  1. ご相談・事前確認

    • ペルメア(担当)業務のヒアリング設置場所の確認も
  2. ご提案・お見積り

    • ペルメア(担当)モデルと機器のご提案費用の内訳も

    ここまでは、ご契約の前です。

  3. ご契約・機器の購入

    • お客様(担当)機器のご購入販売元から直接
    • 機器の販売元・製造元(担当)機器の販売

    機器お客様の資産に

  4. 構築・検証

    • お客様(担当)設置場所の用意電源とネットワーク
    • ペルメア(担当)構築と検証通信の遮断と暗号化

    機器当社でお預かり

  5. 設置・研修

    • お客様(協力)立会いPCの権限のご提供
    • ペルメア(担当)設置と接続の確認研修はオプション

    機器事務所に設置

  6. 導入後

    • お客様(担当)アカウントの管理利用者の追加・削除
    • ペルメア(担当)更新と障害の復旧月額保守(任意)
    • 機器の販売元・製造元(担当)機器本体の故障製造元の保証
図の印:担当協力

正式な範囲は、お見積書と契約書によります。

導入前のご確認事項

できないことも事前にお伝えします

ご留意いただきたい点

  • AIの回答には、誤りが含まれることがあります

    重要な判断は、必ず原文でご確認ください。

  • クラウドの生成AIより、できないことがあります

    回答の精度が、クラウドの最新モデルに及ばない場合があります。インターネット検索にも対応していません。

  • 長い文書の読み込みには、時間がかかります

    1件ずつ順番に処理するため、同時に読み込ませると待ち時間が発生します。同時に利用する人数が増えると、応答は遅くなります。

  • スキャンした書類と手書きの書類は、十分な精度で読み取れない場合があります

    レイアウトの複雑な文書も同様です。読み取った内容は、原本と見比べてご確認ください。

  • 作成したファイルは、内容を確認のうえご利用ください

    複雑なレイアウトは崩れることがあります。

費用の内訳

ご相談とお見積りまでは、費用はかかりません。

  • 機器代

    お支払い先
    機器の販売元
    お支払いの時期
    機器のご購入時

    お客様が販売元から直接ご購入いただき、お客様の資産になります。構成は、利用人数に合わせてご提案します。

  • 構築費

    お支払い先
    ペルメア
    お支払いの時期
    ご契約後と設置完了後の2回(標準)

    基本構築に、選択したオプションを加えた金額です。

  • 保守費用

    お支払い先
    ペルメア
    お支払いの時期
    毎月

    月額保守をご契約の場合だけかかります。ご契約は任意です。

利用人数や利用期間によっては、クラウドの生成AIのほうが総額が安くなる場合があります。

お見積書に記載する項目を見る

詳しい内容

納品物と書類

マニュアル
利用者向けと管理者向け。使い方、アカウントの管理、停電時の復旧の手順を記載します。
設置完了の確認書
設置日に動作を確認し、お客様と当社の双方が記名します。
応答速度のご報告
ご提案時に見込みとしてお伝えした応答速度を、構築時に実機で測定してご報告します。
機器の預かり書
構築のために機器をお預かりする際にお渡しします。
お見積書・契約書・納品書
お見積書と納品書をお渡しします。契約書は、電子契約で取り交わします。

月額保守

導入後・任意

お問い合わせ対応、障害の調査と復旧、ソフトウェアの定期更新を行います。ご契約は任意です。

含むもの
  • 利用方法のお問い合わせ対応
  • 障害の調査と復旧
  • ソフトウェアの定期更新と、その時点でより良いAIモデルへの入れ替え
  • 重大な不具合の修正が公開されたときの、臨時の更新
  • 機器の修理・交換のあとの、環境の再構築
含まないもの
  • 機器本体の故障(製造元の保証の範囲での対応)
  • 会話の履歴など、データの復旧
  • お客様のPCやネットワークの変更が原因の不具合
  • 新しいシステムの構築や、プログラムの開発
ご連絡の方法

平日の日中に、メールと電話で受け付けます。連絡先は、ご契約時にお知らせします。

ご契約と解約
  • 最低利用期間はありません。導入のあとからでも、お申し込みいただけます。
  • 解約後も、機器と環境はそのままお使いいただけます。
ご契約がない場合

環境は設置完了時点の状態のままとなり、当社による更新は行いません。設置後3か月を過ぎたあとのお問い合わせと、障害の調査は、その都度お見積りのうえで対応します。

業務アプリ開発

単独でのご依頼も可

帳票の読み取りや集計の自動化など、業務に合わせたアプリケーションを開発します。

納品の形

社外と通信せず、お客様のPCの中で動作するデスクトップアプリケーションとして納品します。

進め方

要件の確定、お見積り、ご契約、開発、納品、並行運用、検収の順に進めます。

対象

帳票の読み取りや1つの業務の自動化から、複数の工程にまたがる処理まで。費用は、規模に応じてお見積りします。

納品後

案件ごとに、月額の保守を設定します。帳票の様式の変更、OSの更新への対応、不具合の修正などを行います。

お客様にご用意いただくもの

  • 設置場所

    事務所内。電源と、有線LANのポートが必要です。

  • 社内ネットワークの設定

    AIサーバーに、固定IPアドレスを割り当てていただきます(ネットワークの保守業者に依頼される場合を含みます)。

  • 管理者1名

    利用者の追加と削除、パスワードの再設定、停電のあとに暗号化したディスクのロックを解除する作業を行う方をお決めください。

  • 利用者の名簿

    アカウントの作成に必要な範囲でご用意ください。

  • 各PCの権限

    証明書を登録するため、PCの設定を変更できる権限が必要です。

  • 設置日のご予定

    立会いの方のご予定を確保してください。操作研修をお申し込みの場合は、出席される方のご予定も確保してください。

お見積り

お見積書に記載する項目

  • 総額
  • 基本構築とオプションの、項目ごとの内容と金額
  • 消費税の額と、税込の合計
  • 月額保守のお申し込みの有無と、月額
  • 設置の予定日
  • 機器の仕様と参考価格(機器代は、当社のお見積りの金額には含みません)
ご予算に合わせる場合
オプションの項目を外して調整します。外した場合にどうなるかは、事前にご説明します。
交通費
東京都・神奈川県・埼玉県・千葉県への訪問の交通費は、構築費と保守費用に含みます。そのほかの地域は、実費を別にお見積りします。

検討の段階から、ご相談ください

導入について相談する

用途が未定でも構いません。業務内容を伺い、ご提案します。