社内RAG構築とは、社内に散在するドキュメントを検索できる形に整備し、その検索結果をもとに生成AIに回答させる仕組みを作ることです。費用の大部分はAIモデルの利用料ではなく、「対象ドキュメントの整理」と「権限設計」に発生します。 ここを理解しないまま見積もりを比較すると、金額の差がどこから来ているのか判断できません。
この記事は、社内問い合わせ対応やナレッジ検索にRAGの導入を検討している情報システム部門・DX推進担当・経営層に向けて、費用構造と進め方を発注側の目線で整理したものです。
この記事でわかること
- RAGとは何か、社内RAGで何が実現できるか
- 費用がどの工程に発生するか（見積書の内訳の読み方）
- 費用を左右する5つの要因
- 失敗しない進め方と、着手前に社内で決めておくこと
RAGとは何か
RAG（Retrieval-Augmented Generation：検索拡張生成）とは、生成AIが回答する前に、まず社内のドキュメントから関連する情報を検索し、その内容を根拠として回答させる仕組みです。
生成AIをそのまま使うと、社内固有の情報（自社の就業規則、製品仕様、過去の見積根拠など）は当然知りません。学習させる方法もありますが、コストが高く、内容の更新も容易ではありません。RAGは、モデルを学習させるのではなく、回答時に社内文書を参照させるアプローチです。
社内RAGの典型的な用途は次のとおりです。
- 社内問い合わせ対応（就業規則、経費精算ルール、IT手順の照会）
- 製品仕様・技術情報の検索
- 過去案件の見積根拠・提案内容の参照
- 業務マニュアルの検索
いずれも「情報はあるが、どこにあるか分からない・探すのに時間がかかる」という課題に対する打ち手です。
費用はどこに発生するか
RAG構築の見積もりを見るとき、内訳がどの工程に配分されているかを確認してください。金額の妥当性は、総額ではなく配分で判断できます。
1. 対象ドキュメントの調査・整理（多くの場合、最も重い）
RAGの回答品質は、参照するドキュメントの品質でほぼ決まります。そして多くの企業では、この前提が整っていません。
- 同じ規程の新旧版が複数の場所に存在する
- PDFがスキャン画像で、テキストとして読めない
- 情報がExcelの結合セルに埋まっている
- どれが最新版か誰も分からない
この整理を誰がやるかで、費用と期間が大きく変わります。 発注側で対象文書を確定できていれば工数は減り、「とりあえず全社の共有フォルダを対象に」という状態から始めると、調査工程が膨らみます。
2. 権限設計
社内RAGで最も見落とされやすく、そして最も危険な部分です。人事評価資料や経営会議資料が、一般社員の質問に対する回答の根拠として引用されてしまう事故は、権限設計を省略すると簡単に起きます。
既存のアクセス権限をどう引き継ぐか、質問者ごとに参照範囲を切り替えられるか——ここは設計・実装ともに工数が必要な領域です。見積もりにこの項目が無い場合は、何を前提にしているか確認してください。
3. データ取り込みの実装（インデックス構築）
ドキュメントを検索可能な形に変換し、蓄積する部分です。文書の形式（PDF、Word、スプレッドシート、社内Wiki、チケットシステム）ごとに取り込み処理が必要で、対応するデータソースの種類が増えるほど工数が増えます。
更新の反映方法（定期実行か、変更検知か）もここに含まれます。
4. 検索精度の調整
「聞いたのに答えが出ない」「関係ない文書を引用する」といった問題への対応です。文書の分割単位、検索方式、参照件数などを、実際の質問で試しながら調整します。
この工程は実際の質問データが無いと進められないため、一定のリリース後の期間を見込む必要があります。
5. 回答生成部分（モデル利用料）
意外に思われることが多いのですが、この部分は費用全体では相対的に小さくなることが一般的です。従量課金であり、社内利用の質問数は想定より少ないケースが多いためです。
つまり、「どのAIモデルを使うか」は費用の主要因ではありません。見積もりの差は、1〜4のどこに工数を置いているかで生まれます。
6. 運用・改善
回答できなかった質問の収集、ドキュメントの追加・更新、精度の継続的な改善です。RAGは作って終わりではなく、参照する文書が古くなれば回答も古くなります。
費用を左右する5つの要因
| 要因 | 費用への影響 |
|---|---|
| 対象ドキュメントの整備状況 | 整理済みなら大幅に軽くなる。未整理・形式バラバラだと調査工程が膨らむ |
| データソースの種類 | 1種類か、複数システム横断かで実装量が変わる |
| 権限要件 | 全社員が同じ範囲を見てよいか、部署・役職で分けるかで設計が変わる |
| 想定質問の幅 | 用途を絞るほど精度調整が early に収束する |
| 既存システム連携 | 既存の検索基盤・認証基盤に載せるか、新規に立てるか |
具体的な金額の目安については、システム開発全般の考え方と共通する部分が多いため、AIシステム開発の費用相場およびシステム開発の見積もり完全ガイドを参照してください。RAG固有の金額を一律で示すことは、対象文書の状態によって振れ幅が大きすぎるため避けています。
失敗しない進め方
ステップ1：用途を1つに絞る
「社内の何でも答えるAI」を目標にすると、対象文書が無限に広がり、精度も出ません。最初は質問の種類が限定され、正解が明確な領域を選びます。就業規則・経費精算ルールといった人事総務系の問い合わせは、正解が文書として存在するため適しています。
ステップ2：対象ドキュメントを確定し、状態を確認する
選んだ用途に必要な文書を列挙し、最新版がどれか、テキストとして読める形式か、を確認します。この作業は発注前に社内で進めておくと、見積もりの精度が上がり、費用も下がります。
ステップ3：小さく作って実際の質問で試す
実際に使う部署の担当者に質問してもらい、答えられなかった質問を記録します。この記録が、精度改善の材料になると同時に、「そもそもRAGでは解けない質問」（判断を要する相談など）を切り分ける材料にもなります。
ステップ4：権限と運用体制を決めてから広げる
用途を広げる前に、誰がどこまで参照できるか、文書の更新を誰が反映するかを決めます。ここが未定のまま全社展開すると、後戻りが困難になります。
この「小さく始めて評価してから広げる」という順序は、AI導入全般に共通します。詳しくはAI PoCの進め方5ステップで整理しています。
着手前に社内で決めておくこと
発注前にこれらが決まっていると、見積もりの精度が上がり、プロジェクトの立ち上がりが速くなります。
- 対象とする質問の種類（何に答えられれば成功か）
- 対象ドキュメントの範囲と、最新版の所在
- 参照させてはいけない文書の範囲
- 利用者の範囲（全社か、特定部署か）
- 文書更新の運用担当
特に1番目は重要です。「何に答えられれば成功か」が決まっていないと、完成判定ができません。この構造は「使われないシステム」が生まれる要件定義の失敗と同じで、成功条件の不在が最大のリスクです。
よくある質問
Q. RAG構築の料金はいくらですか。
A. 対象ドキュメントの整備状況によって大きく変わるため、一律の金額は提示できません。判断材料になるのは、見積書の内訳が「文書整理」「権限設計」「取り込み実装」「精度調整」「運用」に分かれているかどうかです。モデル利用料だけが大きく、これらの工程が薄い見積もりは、社内文書の整理を発注側が全て担う前提になっている可能性があります。
Q. RAGとファインチューニング（学習）はどちらが良いですか。
A. 社内情報の参照が目的ならRAGが適しています。情報が更新されたときに文書を差し替えるだけで反映でき、回答の根拠となった文書を提示できるためです。学習は情報の更新が難しく、根拠の提示もできません。
Q. 社内文書が整理されていなくても始められますか。
A. 始められますが、整理の工数が費用として発生します。順序としては、まず1つの用途に必要な文書だけを整理するのが現実的です。全社の文書整理を先に完了させようとすると、いつまでも着手できません。
Q. どのくらいの期間がかかりますか。
A. 用途を1つに絞った初期構築であれば数ヶ月規模が一般的ですが、対象文書の状態に強く依存します。精度調整には実際の質問データが必要なため、リリース後にも一定の期間を見込んでください。
まとめ
社内RAGの費用は、AIモデルではなく、社内文書の整理と権限設計に集中します。したがって、発注前に「何に答えられれば成功か」と「対象文書はどれか」を決めておくことが、費用と成功率の両方に効きます。
社内RAGの導入検討や、対象業務の切り分けについては、開発のご相談からお問い合わせください。現状の文書とシステム構成を確認したうえで、着手範囲の設計からご一緒します。
関連記事
