AIと話すサービスを、自分たちで作って運用してわかったこと ― worry.team開発記（速度・費用・安全）

「自社サービスにAIのチャットを入れたい」というご相談は増えています。作るだけなら、いまは難しくありません。難しいのは、遅くならない・費用が膨らまない・危ない返事をしない状態で、毎日動かし続けることです。

worry.team は、AIの猫に24時間話しかけられるサービスです。人間関係や仕事、家族のことを言葉にしてもらい、その言葉から心の調子を測って見えるようにします。Posiiが企画・開発・運用のすべてを自社で行っていて、クラウドファンディングを2回成立させ（合計558,833円、支援者88人）、いまはβ版として公開しています。

この記事では、運用してみて初めてわかった「3つの壁」と、その越え方をまとめます。

何を作ったか

• AIパートナーとの会話：性格の違う複数のAIキャラクターと、いつでも話せる
• 心の調子グラフ：会話から感情を読み取り、幸福度・ストレス度・落ち込み度・孤独感を時系列で表示
• ポジティブ貯金：よかったことを書くと、AIが返事をくれる
• 人のコーチへの橋渡し：話した内容に合うコーチを紹介する（コーチ相談は準備中）

医療ではないため、診断や治療は行わないことを明記しています。精神科医の先生に提携いただいています。

壁1：遅い。原因はAIではなかった

「AIを使っているから遅い」と思われがちですが、実際に測ると原因は別のところにありました。

1つ目は、サーバーとデータベースの距離です。アプリは米国のサーバー、データベースは東京に置いていました。データベースに1回問い合わせるたびに約151ミリ秒かかり、1ページで何十回も問い合わせるので、タイムラインの表示に6.33秒かかっていました。データベースをアプリと同じ地域に移したところ、次のようになりました。

• タイムライン：6.33秒 → 1.51秒（4.2倍）
• 投稿の詳細ページ：2.74秒 → 0.75秒（3.6倍）
• 料金ページ：2.02秒 → 0.75秒（2.7倍）

2つ目は、使わない部品の読み込みです。AIのライブラリを、ページを表示するたびに最初から読み込んでいました。必要になった時だけ読み込むように変えたところ、ある処理が1.772秒から0.020秒になりました。

「遅い」の原因は、測るまでわかりません。推測で高いサーバーに替える前に、どこで時間を使っているかを1つずつ測るのが一番の近道です。

壁2：AIの費用。呼ばなくていいところでは呼ばない

AIの利用料は、呼び出した回数と文章の長さで決まります。worry.team では、AIでなくてもできることにはAIを使わない設計にしています。

• AIのモデルは、軽くて安いものを選ぶ。会話・感情の読み取り・キーワード抽出には、Googleの軽量モデル（Gemini Flash-Lite）を使っています。
• 「次の一歩」の提案はAIを呼ばない。心の調子の数値を過去の自分と比べ、決まった文面から選んで出します。この機能の利用料はほぼ0円です。
• コーチ紹介は、合う人がいなければAIを呼ばない。相談内容に近いコーチを検索し、近さの点数が基準（0.60）に届く人がいなければ、AIに紹介文を書かせずに決まった文面を返します。基準は、実際に当たった場合（0.65前後）と外れた場合（0.55前後）の点数を測って決めました。
• 連打を止める。短時間に何度も送られた場合は受け付けを制限し、AIの利用料が意図せず膨らまないようにしています。

壁3：安全。AIの返事を、止まらず・危なくなく

AIの返事は、画面の裏側で順番に処理します。AIの返事を待つ間、画面が固まらないように、返事を作る処理を裏側の作業係（タスクキュー）に回しています。仕組みはDjango-Q2で、作業の予定はデータベースに記録されるため、作業係が一時的に止まっても依頼は消えません。実際に一度止まったときも、再起動すると溜まっていた返事がすべて処理されました。その経験から、「投稿してAIの返事が付くまでを自動で確かめる」監視も用意しています。

危ない話題では、AIより先に人の窓口へ。コーチ紹介では、いのちに関わる内容や医療の範囲の話が含まれていれば、検索するより先に専門の窓口を案内します。AIの返事を作る指示にも、自分を傷つけることを連想させる内容のときは窓口を案内するよう入れています。

測り方そのものも見直す。心の調子は、会話ごとに喜び・怒り・悲しみ・自信・困惑・恐怖・孤立感の7つを1〜5で採点し、そこから指標を計算しています。当初の「孤独感」は幸福度とほぼ裏返しの動きをしていて（相関 −0.886）、別の指標として意味をなしていませんでした。人とのつながりの軸が入っていなかったためで、その指標は「落ち込み度」に改め、孤独感は新しく加えた「孤立感」の軸で測るようにしました。

お金を受け取るところまで

有料プランはStripeで月額課金にしています。本番の環境で実際のカードで決済し、画面から解約を予約し、返金するところまで一通り確認しました。解約されたときに、サービス側の会員情報が自動で切り替わることも確かめています。

いまの状態（正直に）

• β版として公開中で、正式公開は2026年11月を目標にしています。
• 公開している利用状況は、利用者13人、ポジティブ貯金71件、コーチへの相談5件（2026年8月19日時点）です。
• AIの返事すべてで危ない表現を確実に見つける仕組みは、まだ作っている途中です。

AIチャットを自社サービスに入れる前に、決めておくこと

• 返事の速さの目標：何秒以内に返せばいいか。AIの返事を待たせるのか、裏側で作って後から届けるのか
• 月額の上限：1人あたり1日何回まで使えるようにするか。無料の枠と有料の枠をどう分けるか
• AIを呼ばない場面：決まった文面で足りる場面はどこか。そこを見つけるほど、費用は下がり、答えも安定します
• 危ない話題への対応：医療・法律・お金・いのちに関わる話が来たとき、AIに答えさせるのか、人の窓口へつなぐのか
• 止まったときの気づき方：AIの返事が止まったことを、利用者より先に誰がどうやって気づくか

AIのチャットは、作った日より、動かし続ける毎日のほうが長い。だから最初に、速さ・費用・安全の3つを決めておく必要があります。