社内RAGの相談で、実は最初に確認しているのがこれです。「社内の文書を、外に送っていいですか」

ここの答えで、選べる構成が変わります。そしてあとから変えるのがとても高くつく部分でもあります。「まずクラウドで作って、あとで社内に閉じよう」は、ほぼ作り直しになります。

この記事では、閉じ方を3段階に分けて、それぞれ何ができて何ができなくなるかを書きます。

3つの構成

②と③はどちらも「外に出さない」ですが、用途がまったく違います。②は組織で使うもの、③は一人で使うものです。

① ネット接続あり——迷う理由がないなら、これ

クラウドのAIサービスを使う、いちばん一般的な構成です。

制約が無いならこれが最も合理的です。性能・コスト・立ち上がりの速さのすべてで有利です。

② 社内ネットワーク完結——外部通信をゼロにする

ここが本題です。金融・医療・製造・自治体では、これが要件になることが多いのですが、対応できる開発会社は限られます。

何を社内に置くことになるか

クラウドに任せていた部分を、すべて社内サーバーに持ってきます。

一番の違いは生成モデルを自分で動かすことです。ここでサーバーの要件が跳ね上がります。

何が変わるか（正直な話）

ただし、用途によっては十分です。社内文書の検索と要約であれば、要求される能力はそこまで高くありません。

難しい推論をさせるのではなく、
探して、まとめて、出典を示す。
それなら小さいモデルでも足ります。

逆に「複雑な判断をさせたい」「長い文章を書かせたい」なら、社内完結では期待に届かない可能性があります。用途を先に確認してください。

更新をどうするか

見落とされやすいのがこれです。外部通信を切るということは、モデルもライブラリも自動では新しくならないということです。

• モデルを更新したい → 誰かが持ち込む手順を決めておく
• セキュリティ更新 → 同じく手順が要る
• 「気づいたら2年前のまま」が起きやすい

閉じた環境を作るときは、閉じたあとの更新手順まで一緒に設計します。ここを決めずに納品すると、数年後に誰も触れないものが残ります。

サーバーの要件

ここが予算に直結します。生成モデルを動かすには、それなりの計算資源が要ります。

「まず小さく始めて、使われるようなら増やす」のがここでも正解です。最初から全社規模のサーバーを用意すると、使われなかったときの損失が大きくなります。

③ PC1台完結——検証と、個人利用のために

サーバーすら用意せず、手元のPCだけで動かす構成です。組織で使うものではありませんが、使い道は明確にあります。

何に使うか

• 本当に役に立つかを確かめる。予算を取る前に、自分の文書で試せる
• 社内説得の材料をつくる。動くものを見せるのが最も速い
• 個人の資料整理。人に見せない文書を扱う

数十万円の投資判断をする前に、
0円で確かめられる。

必要なもの

4つの部品が要ります。生成モデルを入れただけではRAGになりません。ここが最も誤解されている点です。

PC1台でも、あえてPostgreSQLを使う

1台で試すだけなら、もっと軽い保存先もあります。Pythonのライブラリを入れるだけで動くものもあり、そちらのほうが手軽です。

それでもPostgreSQLに pgvector を入れる形をおすすめしています。理由はひとつです。

③で試したものを、
そのまま②に持っていけるから。

手軽な保存先で試すと、社内サーバーに上げる段階で保存の部分を書き直すことになります。せっかく「使える」と分かったのに、そこから作り直しが発生する。

PostgreSQLは自分のPCにも普通に入りますし、Dockerでも動きます。検証と本番で同じものを使っておけば、上げるときは接続先を変えるだけです。実装の詳細はDjango × pgvector の記事に書きました。

実測：手持ちのPCでどこまで動くか

「動きました」で終わる記事は多いのですが、発注を検討している人が知りたいのは実用に耐えるかどうかです。実際に測ります。

どれを選ぶか

判断の順番はこうなります。

1. 規程を確認する。「社外への送信禁止」と書かれていれば、その時点で②か③
2. 用途を確認する。検索と要約なら②で足りる。複雑な判断をさせたいなら①を検討
3. まず③で試す。0円で、自分の文書で、本当に使えるかを確かめる
4. 使えると分かってから、②か①の規模を決める

3番を飛ばさないことをおすすめします。「役に立つかどうか」は、作ってみないと分かりません。

あとから変えられるもの、変えられないもの

上2つだけが「あとから変えられない」ものです。この2つを最初に決めれば、残りは走りながら調整できます。

まとめ

• 最初に確認すべきは「社内の文書を外に送っていいか」
• 制約が無いなら①ネット接続ありが合理的。性能もコストも有利
• ②社内完結は、規程で送信が禁止されている場合の唯一の答え。金融・医療・製造・自治体に多い
• ②では回答の質は落ちる。ただし検索と要約なら足りることが多い
• ②では閉じたあとの更新手順まで設計する
• ③PC完結は、投資判断の前に0円で確かめる手段として価値がある
• ③で見落とされるのは埋め込みモデルの選定。精度を決めているのは探すモデルのほう
• ネットワークの閉じ方と権限設計だけは、あとから変えられない