ローカルAIエージェントとは？社内文書検索で確認する処理場所と外部送信の範囲

ローカル実行とローカル推論は、分けて確認します

たとえばPC上のアプリが社内フォルダーを読み、その本文をクラウドのAIへ渡して回答を作るなら、アプリの実行場所はPCでも、推論は外部で行われます。一方、モデルもPC上で動かす構成では、回答生成を手元で行えます。社内サーバーで動かす場合は、端末内ではなく社内ネットワーク内で処理する構成として区別します。

さらに、回答生成だけをローカルにしても、画像の文字起こしや検索データの作成を別のサービスへ任せることがあります。外部へ出せない情報があるなら、対象は「AIへ直接入力する文章」だけではありません。質問文、検索された抜粋、エラーに含まれる本文も含めて見ます。

文書検索そのものに、必ずエージェントが必要なわけでもありません。資料を決まった手順で検索する仕組みと、質問に応じて参照先や追加検索を選ぶ仕組みは分けて検討します。業務への任せ方はAIエージェントの活用と試行の進め方も参考になります。

Microsoftの公表教材では、検索と回答生成を手元で構成しています

Microsoftの教材には、文書からローカルで検索用データを作り、手元のデータベースから関連箇所を探し、ローカルの小規模言語モデルへ渡す構成例があります。検索で取り出した資料を回答生成に使う方法は、RAGと呼ばれます。同じ教材は、用途に応じてクラウドも使う構成も説明しています。出典：Microsoft「ローカルAIエージェントの作成」

これは公表された学習用の構成例です。SalesDockが実装・実測した事例ではありません。「ローカル」という言葉だけで構成全体を判断せず、検索、推論、ツール接続をそれぞれ確かめる参考になります。

端末上でモデルを動かす仕組みの一つに、Microsoft Foundry Localがあります。公式説明では、初回にモデルをダウンロードし、保存したモデルを端末で実行します。初期準備に必要な通信と、業務中のデータ送信を分けて確認することが大切です。出典：Microsoft Learn「What is Foundry Local?」

文書検索を5つの工程に分け、送信先を書き出します

管理部門の責任者とシステム担当者が、次の表を一緒に埋めます。各行に製品名だけでなく、実際の処理先、送る情報、設定の確認箇所、確認した日を残します。契約先へ確認中の項目は、そのまま未確認と記載します。

検索用の数値データを作る「埋め込み」も、処理先の確認対象です。元文書を手元へ置いていても、そのデータを作るために本文を外部へ送るなら、文書の保管場所だけでは判断できません。追加した検索機能や拡張機能も、同じ表で見直します。

架空例：社内規程を探し、根拠のある回答案だけを返します

ここからは検討用の架空例です。実在企業の規程や顧客情報は使っておらず、AIを動かした結果でもありません。管理部へ繰り返し届く「出張申請の変更は、誰へ確認すればよいですか」という質問を扱います。

入力資料と許可する操作を決めます

試験用フォルダーに、架空の「出張手続き・現行版」と「出張手続き・旧版」を置きます。現行版には確認窓口が管理担当と書かれ、旧版には別の窓口が書かれている設定にします。対象外の資料は別のフォルダーに置き、実際の人事・給与情報は使いません。

エージェントに許可するのは、利用者が閲覧できる試験用文書の検索と回答案の作成までです。申請の承認、ファイルの変更、担当者へのメッセージ送信は含めません。閲覧範囲は指示文だけに頼らず、接続先の権限でも制限します。

期待する回答と、答えない条件を用意します

資料が見つからない場合は「確認できません」と返し、窓口を推測で補わない条件にします。現行版の指定が外れた場合も、更新日だけで正本を決めず、文書管理者へ戻します。自然な文章が返ったかより、参照資料と該当欄を開いて確かめられるかが判断材料です。

設定・通信・回答を照合し、変更後も同じ条件で試します

試験では、先ほどの工程表と実際の動作を突き合わせます。通常の質問だけでなく、検索に失敗する場合やネットワークが使えない場合も対象にします。業務責任者は回答の正誤を、システム担当者は接続先と権限を確認します。

1. 試験時のモデル、アプリ、接続先、設定の版を記録します。失敗時にクラウドへ切り替わる設定があるかも確認します。
2. 架空の資料で通常検索と失敗時の動作を試し、管理者が接続先の記録と設定を照合します。記録で確認できない送信内容は、未確認として残します。
3. 切断中に動くかを試す場合は、接続を戻した後の同期やログ送信も確認します。オフラインで一度動いたことだけで、全経路の非送信を証明したとは扱いません。
4. 権限外の文書が検索結果や回答へ混ざらないか、旧版を使った回答を検出できるか、資料がないときに止まるかを確認します。
5. モデル、検索機能、接続先、文書の版を変えたら、同じ試験資料で再確認します。未確認の接続先が増えた場合は、実文書の処理を止めて見直します。

費用も、API利用料だけでは比較できません。機器、電力、文書の更新、利用者の権限変更、回答の修正、障害対応にかかる負担を含めます。効果は、質問の受付から人の確認を経て完了するまでの時間と、根拠を確認できなかった件数を記録して判断します。本記事の架空例には、削減時間や精度の実測値はありません。

相談前に、文書の正本と確認担当を整理します

「社内文書を外へ出したくない」という要望を、誰がどの文書を使い、どこまでの処理を許可するかに置き換えると、実装条件を検討しやすくなります。相談時は実文書を送らず、文書の種類、正本の管理者、質問の例、未確認の処理先を整理してください。外注する範囲はAI開発の見積項目と責任分界でも確認できます。

自社では何を確認すべきか整理したい場合は、無料相談を申し込む（60分）をご利用ください。SalesDockでは、業務とデータのつながりから、AI活用の対象と進め方を整理します。

よくある質問