ローカルLLMの導入費用は
何で決まるか：内訳と見積もりの見方

ローカルLLM（社内に置く生成AI）の導入費用の相場をひとつの数字で示しにくいのは、同時に利用する人数と用途が会社ごとに違うためです。

この記事では、金額や相場は示しません。見積もりを読むときと、稟議を書くときに使える見方を説明します。

ローカルLLMは、オンプレミスLLM、社内LLMと呼ばれることもあります。提案によって呼び名が違っても、見積もりは機器の設置場所と作業の範囲をそろえて比べます。

表の項目のほかに、導入後は電気代と、社内の担当者の作業時間がかかります。

総務省が自治体向けにまとめた「自治体におけるAI活用・導入ガイドブック＜導入手順編＞」（第4版、2025年12月）は、AI導入の主な費目を、初期費用と、毎年かかる運用費用に分けています。オンプレミスで構築する場合の運用費用として挙がっているのは、サーバーやネットワークの保守、利用者の登録や変更の作業、稼働の監視、問い合わせ対応などです。

保守を外部に頼まない場合は、こうした作業を社内で担います。保守を契約した場合も、利用者の追加と削除のように、社内に残る作業があります。利用ルールの整備と利用者への周知を含めて、社内でかかる手間も費用の一部として見ておきます。

当社の導入支援では、機器はお客様が販売元から直接購入し、お客様の資産になります。構築費は、基本構築に、選択したオプションを加えた費用です。月額保守は任意で、保守費用は契約した場合だけかかります。機器代と構築費は支払い先が分かれるため、稟議には両方を合わせた総額を書きます。

構築費は、どこまでを作業の範囲に含めるかで変わります。当社の導入支援では、範囲を次のように分けています。

• 基本構築：業務に合わせたAIモデルの選定、AIモデルに合わせた機器の選定、AI環境の構築、セキュリティの設定、設置とマニュアルの提供、設置後3か月のお問い合わせ対応
• オプション：操作研修、同時利用の負荷試験、停電対策、他システムとの連携

構築費に入るのは、基本構築と、選んだオプションです。オプションは、必要なものだけを選びます。たとえば、生成AIに慣れていない社員が多ければ操作研修を、同時に利用する人数が多ければ負荷試験を加えます。

他システムとの連携は、連携する先によって作業の量が大きく変わります。考えている場合は、見積もりを依頼するときに伝えます。

AIサーバーから社外への通信を遮断する設定は、基本構築に含めています。ほかの会社の見積もりと比べるときは、この作業が範囲に入っているかを確認します。

機器代と構築費を左右するのは、同時に利用する人数、用途、社内文書の検索（RAG）の有無です。設置環境によっては、これとは別に費用がかかる場合があります。

同時に利用する人数

機器の構成は、同じ時間帯に何人が質問するかを前提に選びます。同時に利用する人数が増えると、AIサーバーの応答が遅くなるためです。見積もりを依頼するときは、利用人数と、同時に利用する人数を分けて伝えます。

用途

用途によって、選ぶ機器とAIモデルが変わります。長い文書の読み込みには時間がかかるため、短い文章の作成や添削が中心の会社と、長い契約書や規程を毎日読み込ませる会社では、見積もりの前提が違います。

社内文書の検索（RAG）の有無

社内文書を検索して回答に使うしくみ（RAG）を加えると、構築の作業が増えます。導入後も、検索の対象にする文書の入れ替えと、文書を閲覧できる人の管理が続きます。当社の導入支援では、チャット画面の文書の検索の機能を標準で使えるようにし、文書の登録は社内で行います。

設置環境

設置場所、電源、社内ネットワークの状況も、見積もりの前提になります。当社の導入支援では、これらはお客様にご用意いただき、当社は設置の前に伺って確認します。配線や電源の工事が必要な場合は、その費用も見込みます。

ローカルLLMは導入時に機器代と構築費がまとまってかかり、クラウドの生成AIは利用している間、利用料がかかります。下の表のローカルLLMの列は、当社の導入支援の場合です。

クラウドのサービスには、データ量や利用時間に応じて料金が決まる従量制のものもあります。比べるときは、利用する人数と頻度の見込みをそろえ、数年分の総額で見ます。ローカルLLMの側には、保証の期間が過ぎたあとの機器の修理や買い替えの費用も入れます。

経理上の扱いも違います。購入した機器は、自社の資産（減価償却資産）になります。取得価額が一定の額に満たない機器には、事業に使い始めた年度にまとめて費用にできる制度があり、青色申告をしている中小企業者等には、その額を引き上げる特例があります（年間の上限と、適用の期限があります）。これらに当てはまらない機器は、耐用年数にわたって減価償却します。構築費を機器の取得価額に含めるかどうかも含めて、経理部門や顧問の税理士に確認します。国税庁のタックスアンサー（法人税。2026年4月1日現在の法令等）に、それぞれの説明があります。

費用に見合わない場合

次のような場合は、ローカルLLMの費用に見合う効果が出にくくなります。クラウドの生成AIで足りるかを、先に検討します。

• 入力する内容に、機密情報や個人情報がほとんど含まれない
• 使う人が少なく、利用の頻度もまだ読めない
• 最新のモデルの回答精度や、インターネット検索が業務に欠かせない
• 機器の設置場所や、運用を担当する人を社内で確保できない

契約書や人事・財務の資料のように社外へ出せない情報を扱いたい場合は、情報漏洩のリスクを下げる手段として、ローカルLLMに費用をかける理由があります。

見積もりでは、作業の範囲、機器の所有者、保守の範囲、検収の基準を、金額より先に見ます。下の表は、どの会社に構築を依頼する場合にも使える項目です。

検収の基準は契約の前に文書で決める

検収とは、納品されたものを発注側が検査して受け入れることを指します。IPA（情報処理推進機構）と経済産業省の「情報システム・モデル取引・契約書（第二版）」（2020年12月公開、2025年4月更新）は、ソフトウェア開発の委託を想定した契約書のひな形です。テストの項目と方法を定めた検査仕様書を作り、それにもとづいて検査する手続きを定めています。ローカルLLMの導入でも、何をもって完了とするか、負荷試験を含めるかを、契約の前に文書で決めておきます。機器の無償保証の条件も、あわせて確認します。

当社の導入支援では、同時利用の負荷試験をオプションで用意し、設置完了の条件を契約書で定めています。

稟議では、費用と並べて、目的、扱う情報、比べた選択肢、運用の担当、限界を説明します。

• 費用：導入時の総額と、導入後に続く費用を分けて書きます。
• 目的：どの業務のどの作業に使うかを書きます。目的がはっきりしていると、導入後に効果を確認する基準にもなります。
• 扱う情報：契約書、人事・給与、財務、顧客情報など、入力する情報の種類を挙げます。機密情報を扱うかどうかは、クラウドの生成AIとローカルLLMのどちらを選ぶかの判断材料になります。
• 比べた選択肢：クラウドの生成AIを使う案、ローカルLLMを置く案、導入を見送る案について、費用のかかり方と情報漏洩のリスクを並べます。
• 運用の担当：利用ルールの整備、利用者への周知、障害時の連絡を誰が担当するかを書きます。保守を契約するかどうかも示します。
• 限界：回答に誤りが含まれることがある点や、向かない用途を書きます。

扱う情報の欄には、その情報をクラウドの生成AIに入力してよいかを確認した結果も書きます。確認する内容は、個人データ、取引先から預かった情報、自社の営業秘密で違います。

見積もりを依頼する前に、用途、人数、設置環境を書き出しておくと、各社の見積もりを同じ前提で比べられます。次の順に整理します。

1. 1使いたい業務と、入力する資料の種類を書き出す
2. 2利用人数と、同時に利用する人数の見込みを出す
3. 3AIサーバーの設置場所と、社内ネットワークの構成を確認する
4. 4社内文書の検索や他システムとの連携など、基本の構築に加えたい要望を分けて書く
5. 5保守を契約するか、社内で対応するかの方針を決める

当社の導入支援では、機器を購入するのは、見積もりの内容を確認したあと、ご契約の段階です。

• サービス当社のお見積書に記載する項目を見る