ローカルLLM導入のよくある質問:決める前の疑問に、先にお答えします
しくみとセキュリティ
- ローカルLLMとは
何ですか - 社内に設置したサーバーの中で動かす生成AIです。入力した内容が社外へ送信されないため、機密情報を扱う業務でも利用できます。
- クラウドの
生成AIとの 違いは 何ですか - 社内に設置したサーバーの中でAIが動作し、入力した内容が社外へ送信されない点です。一方で、クラウドの最新モデルに回答の精度が及ばない場合があり、インターネット検索には対応していません。
- ローカルLLMは
安全ですか - サーバーから社外への通信を遮断し、通信とディスクを暗号化します。当社から遠隔で接続することもありません。社内での権限の管理や利用ルールの運用は、導入後も必要です。
- ソフトウェアを
更新する とき、 AIサーバーは インターネットに つながりますか - 更新のときだけ、当社の担当者がお客様先で、一時的に社外へ接続します。通常時は接続しません。
機器と設置
- 機器は
自社で 用意するのですか - 当社が構成をご提案し、お客様に直接ご購入いただきます。
- 各PCに
ソフトを インストールする 必要は ありますか - 不要です。お使いのブラウザから利用できます。設置の際に、各PCへ社内用の証明書を登録します。
- 設置には
何を 用意すれば よいですか - 事務所内の設置場所、電源、有線LANのポートをご用意ください。AIサーバーには、固定IPアドレスを割り当てていただきます。
- 社内にAIに
詳しい 人が いなくても 使えますか - 専門知識は不要です。利用者向けと管理者向けのマニュアルをお渡しし、管理者の方へ引き継ぎを行います。設置後3か月は、使い方のお問い合わせにも対応します。操作研修は、オプションでお選びいただけます。
- 停電したら
どうなりますか - 電源が戻ると、AIサーバーは自動で起動します。ディスクを暗号化しているため、お客様の管理者が社内のPCから、暗号化したディスクのロックを解除すると、利用を再開できます。手順はマニュアルに記載します。停電対策は、オプションでお選びいただけます。
- 機器が
故障したら どうなりますか - 機器本体の故障は、製造元の保証の範囲での対応になります。修理または交換のあと、当社が設定の控えをもとに環境を再構築しますが、会話の履歴と利用者の登録は元に戻りません。再構築は、月額保守、または設置後3か月のお問い合わせ対応の期間中は無償で、それ以外は別途お見積りします。修理のあいだは、ご利用いただけません。
- 導入の
前に、 動作を 見る ことは できますか - 初回のお打ち合わせで、実機での動作をご覧いただけます。ご覧になりたい内容は、事前に伺います。
使い方
- 利用する
人数が 増えると、 応答は 遅くなりますか - 同時に利用する人数が増えると、応答は遅くなります。利用人数と、同時に利用する人数の見込みを伺い、機器の構成をご提案します。構築は、当社で確認済みの設定で行います。同時に利用する人数が多い場合は、オプションの負荷試験で、見込みの人数に合わせて調整します。
- 誰が
利用できますか - アカウントをお持ちの方が、社内のPCのブラウザから利用できます。アカウントは1人に1つで、利用者の追加と削除は、お客様の管理者が行います。
- AIの
回答は 正しいですか - AIは誤った内容を出力することがあります。最終的な判断は、人が行う前提でご利用ください。この点は契約書にも明記しています。
- スキャンした
書類と 手書きの 書類も 読み取れますか - スキャンしたPDFは、OCRで文字を読み取ります。ただし、スキャンした文書と手書きの文書、レイアウトの複雑な文書は、十分な精度が得られない場合があります。読み取った内容は、原本と見比べてご確認ください。
- 社外
(自宅や 出張先)から 利用できますか - 対応していません。社外からの入口を設けないことを、安全の前提にしているためです。社内のネットワークにつないだPCから、ブラウザでご利用ください。
- 自社の
データを、 AIに 追加で 学習させる ことは できますか - AIモデルの追加学習は、標準の範囲には含まれません。ご希望の場合は、目的を伺ったうえで、対応できるかどうかを判断します。
- 導入後、
別の 業務にも 使えますか - 同じ環境を、ほかの業務にもお使いいただけます。業務に合わせた仕組みづくりが必要な場合は、別途お見積りします。
費用と契約
- 相談や
お見積りに、 費用は かかりますか - かかりません。ご契約の前のお打ち合わせとお見積りは、無償で行います。
- ご相談の
前に、 秘密保持契約を 結べますか - 結べます。機密情報を含むご相談は、ご希望に応じて、秘密保持契約を結んでから伺います。ご契約の際の契約書にも、秘密保持の条項を設けます。
- 訪問して
もらえる 地域は どこですか - 東京都・神奈川県・埼玉県・千葉県です。この4都県への交通費は、構築費と保守費用に含みます。そのほかの地域にも伺い、交通費の実費を別にお見積りします。お打ち合わせは、Web会議でも行えます。
- 費用は
何で 決まりますか - 機器代は、利用人数、同時に利用する人数、用途に合わせた機器の構成で変わります。構築費は、基本構築に、選択したオプションを加えて決まります。お見積りで、総額と内訳をご提示します。
- 標準の
範囲に 含まれない ものは ありますか - 他システムとの連携は、基本構築に含まれません。内容を伺い、対応の可否を含めてお見積りします。会話履歴のバックアップには対応していません。
- 予算に
合わせて 内容を 調整できますか - オプションの項目を外して調整します。外した場合にどうなるかは、事前にご説明します。基本構築の内容は変わりません。
- クラウドの
生成AIより、 費用は 安くなりますか - 利用人数や利用期間によっては、クラウドの生成AIのほうが総額が安くなる場合があります。当社は、費用の安さを理由にしたご提案は行っていません。
- 導入した
会社の 名前は 公表されますか - お客様の名称と、お客様を特定できる情報は、事前に書面で同意をいただいた場合を除き、公表しません。導入の内容は、お客様を特定できない形で、当社の実績としてご紹介することがあります。
保守
- 月額保守は
必須ですか - 任意です。ご契約がない場合は、対応が必要になった際に、都度お見積りします。
- 保守は
あとから 申し込めますか - お申し込みいただけます。その場合、環境の状態を確認する作業を、別途お見積りのうえで行うことがあります。
- 保守を
解約した あとも 使えますか - お使いいただけます。機器はお客様の資産ですので、解約後も環境はそのまま残ります。当社が環境を削除したり、停止したりすることはありません。
- AIモデルは
あとから 入れ替えられますか - 入れ替えられます。特定の開発元に固定されない構成です。月額保守の定期更新で、その時点でより良いモデルへの入れ替えを行います。
検討の段階から、ご相談ください
導入について相談する
用途が未定でも構いません。業務内容を伺い、ご提案します。