RAGの構築費用は、実装部分についてはかなり正確に見積もれます。検索の仕組みも、権限の仕組みも、やることは決まっているからです。それでも見積もりが当たらないことがあります。

原因はほぼ一つで、渡される文書が想定と違う状態だったときです。この記事では、何が起きるのかを文書の状態別に書きます。費用の内訳についてはこちらにまとめました。

RAGは、渡された文書を疑いません

最初に押さえておきたい性質があります。

RAGは、入っている文書を
すべて等しく正しいものとして扱います。

人間なら「これは古い版だな」「これは下書きだな」と判断します。RAGは判断しません。意味が近ければ、それが3年前に廃止された規程でも根拠として使います。

だから作業の大半は、実装ではなく「何を入れて、何を入れないか」を決めることになります。ここが読めないと、金額も読めません。

文書の状態と、それぞれで起きること

上の3つは、時間さえかければ片づきます。問題は下の3つです。

スキャンPDF：OCRの精度を「確かめる」工程が要る

OCRをかければ文字にはなります。ただし100%ではありません。そして厄介なのは、間違って読み取られた文字は、エラーにならずに検索対象になることです。

「10万円」が「1O万円」（数字のゼロがアルファベットのオー）になっていても、処理は正常に終わります。検索したときに出てこなくなるだけです。

だからOCRそのものより、精度を確かめる工程に時間がかかります。何枚か抜き取って人間が突き合わせる。ここは自動化できません。

Excel：表を「文章」にしないと検索できない

見落とされやすいのがこれです。ベクトル検索は文章の意味を扱うので、セルの値だけを取り出しても意味になりません。

表の形式が統一されていれば一度作れば済みます。部署ごとにフォーマットが違うと、その数だけ設計が必要です。

版の重複：これだけは技術で解決できません

いちばん多く、いちばん厄介なのがこれです。

同じフォルダにこういうファイルが並んでいることは、珍しくありません。

• 就業規則_2023年版.pdf
• 就業規則_最新版.pdf
• 就業規則_最新版(修正).pdf
• 就業規則_最新版_20240401_田中確認済.pdf

人間なら、更新日を見るなり担当者に聞くなりして判断します。RAGは4つとも「就業規則」として同じ重みで扱います。質問すると、古い規程を根拠にした回答が返ってくることがあります。

しかも間違っていることに気づきにくい。それらしい答えが返ってくるからです。

これは実装で解決できません。
どれが正しいかを知っているのは、人間だけです。

やり方は2つしかありません。入れる前に整理するか、入れたうえで「どれが有効か」の情報を別に持たせるか。どちらも、対象の文書を見ないと工数が出せません。

だから、見積もりの前に文書を見せていただいています

ここまでの話をまとめると、同じ「1万件の社内文書」でも、状態によって作業量が数倍変わります。

だから私たちは、金額をお出しする前に実際の文書を見せていただいています。これを飛ばして出した数字は、まず当たりません。

費用を抑えたいなら、ここが一番効きます

逆に言えば、文書の状態を良くするのが、いちばん確実なコスト削減です。実装をいくら安くしても、この部分は減りません。

効果が大きい順に3つ挙げます。

1. 正の版を決める。古い版を別フォルダに移すだけでも効果があります。技術的な作業ではないので、社内でできます
2. スキャンPDFの元データを探す。元のWordやExcelが残っていれば、OCRの工程がまるごと不要になります
3. 対象を絞る。全社の全文書を最初から入れない。状態の良い文書がまとまっている部署から始めるのが最短です

1番は費用がかからないのに効果が大きい部分です。整理は外注しなくても進みます。

まとめ

• 実装は見積もれる。見積もれないのは文書の状態
• RAGは入っている文書をすべて等しく正しいものとして扱う
• スキャンPDFはOCRより「精度を確かめる工程」に時間がかかる
• Excelは行と列の関係を文章に組み直す設計が要る
• 版の重複だけは技術で解決できない。正を知っているのは人間だけ
• だから見積もり前に実際の文書を見る。数十件でも判断できる
• 費用を抑える最短は正の版を決めること。社内でできて、費用もかからない