コンテンツへスキップ

生成AI

空へ向かって伸びる階段

AI用語の階段は、そのまま管理職の階段だった ——プロンプトからループまで、そして最後に残るポストの話

プロンプト/コンテクスト/ハーネス/ループ。増え続けるAI用語をAIの側ではなく人間の側から並べ直すと、新任上司・課長・部長・執行役員という管理職の階段とそのまま重なる。四段すべてをAIに渡せるようになったとき、最後に人間へ残るポストは何かを考えます。

手綱と馬具(ブライドル)を着けた馬の横顔

ハーネス・エンジニアリングとは何か ——自社で動いているAIハーネスを、5つの層に分けて全部見せる

ハーネス・エンジニアリングとは、モデルの回答そのものではなく、回答を取り巻くシステムを設計する仕事です。ツールオーケストレーション/検証ループ/コンテクスト管理/ガードレール/可観測性の5層に分けて、自社で実際に動いているAIハーネスの中身を公開します。

社内RAGは、小さく始めたほうが安い——検討する順番と、最初にやめるべきこと

社内RAGの相談で最も多いのが「全社の文書を全部入れたい」という出発点です。ですがこれが費用を最も膨らませ、しかもお金をかけた案件ほど使われなくなります。対象を絞る/既存DBを使う/ローカルモデルで試す/権限だけは最初に設計する、という順番と、その理由を書きます。

RAGで後から効いてくる費用——権限設計と、モデルを差し替える日

RAGの予算を壊すのは初期費用ではなく「あとで足そう」とした部分です。権限は文書単位ではなくチャンク単位で必要になるため、後から足すと分割からやり直しになります。再計算は数万件で数時間、数十万件で日単位。埋め込みモデルの差し替えも必ず来ます。後から足せるものと足せないものを整理しました。

濃紺の背景に、向きも大きさもバラバラな書類が雑然と重なって山になり、数枚だけが金色に光っている図

なぜRAGの見積もりは当たらないのか——金額を決めているのは、渡される文書の状態です

RAGの実装部分は正確に見積もれます。見積もれないのは、渡される社内文書の状態のほうです。スキャンPDFはOCRより精度検証に時間がかかり、Excelは行と列の関係を文章に組み直す設計が要る。そして「就業規則_最新版(修正)」のような版の重複だけは、技術では解決できません。