AI業務自動化で人の承認をどこに残すか—誤送信・誤公開を防ぐ運用設計

「AIが作り、人が確認する」と決めても、確認画面の後でAIが文章を整形し直したり、承認者が送信先を見られなかったりすれば事故を止められません。全社規程はAI社内ルール、完成後の独立レビューはAIシステムの第三者レビューで扱っています。ここでは日々の処理で外部反映を許可する瞬間だけを設計します。

承認点は「影響」と「戻しやすさ」で決める

NISTのAI RMF Coreは、人とAIの役割・監督責任を定義し、監督の手順を文書化する考え方を示しています。すべてを同じ重さで承認せず、誤りが誰へ届き、元に戻せるかで配置します。

操作	影響	承認の置き方
社内下書き・分類	影響が小さく戻せる	記録＋抜き取り確認
顧客へのメール送信	誤宛先・誤案内が外部へ届く	送信直前に担当者承認
Web・SNS・広告の公開	不特定多数へ即時反映	差分表示後に媒体責任者承認
金額・契約・発注確定	会社の約束や支払いになる	業務責任者の承認
削除・権限変更	復旧困難または情報漏えいにつながる	別担当承認＋実行ログ

承認画面には判断材料と実行結果を近づける

対象：顧客名、宛先、媒体、アカウント、実行予定時刻
内容：AI出力、元データ、参照根拠、前版との差分
影響：送信、公開、更新、削除される範囲
選択：承認、差し戻し、停止。修正だけで自動承認にしない
復旧：取消可能時間、公開停止、元データへ戻す手順

AIが作った本文だけでなく、宛先・公開先・添付・予約時刻まで同じ画面で確認します。承認後に内容が変わったら承認を無効にし、再承認へ戻します。権限設計は社内ツールの権限漏れ対策も確認してください。

差し戻し理由を次の生成へつなぐ

差し戻しボタンだけでは、担当者がチャットで修正依頼し、履歴が分散します。事実誤り、根拠不足、表現、宛先、個人情報、会社判断の未確定に分類し、修正後は変更箇所を表示します。同じ理由が続くなら、指示文ではなく参照資料や受付項目を直します。

停止条件と再開手順をセットにする

根拠資料がない、矛盾する、期限切れである
承認者が不在で期限を超えた
宛先・公開先・金額が元データと一致しない
連続エラー、重複処理、想定外の修正増加が起きた
AI、API、媒体仕様を変更したが再テストしていない

停止時は無理に自動処理を続けず、未処理一覧を出し、手作業へ切り替え、原因確認、修正、テスト、責任者承認の順で再開します。APIキーなど実行権限の扱いはAPIキーの直書き確認を参照してください。

実務需要でも承認・ログ・手順書が一体で求められている

2026年7月21日掲載のCrowdWorks募集では、生成後に担当者が確認・修正・承認し、その後に投稿・入稿・更新、効果測定へ進む流れと、実行履歴、エラー履歴、手順書までが要件として示されています。これは一件の募集から確認できる需要例であり、成果や市場相場を示すものではありません。

来週できる一歩：公開作業を1件だけ承認フローへ通す

顧客メール、Web更新、SNS投稿から一つ選ぶ
AI生成後から外部反映までの処理を書き出す
外部反映直前に止め、宛先・根拠・差分・戻し方を表示する
承認、差し戻し、停止を各一度テストする
承認者、時刻、対象版、実行結果がログで結び付くか確認する

before / afterで測る項目

承認待ち時間と期限超過件数
差し戻し件数と理由別内訳
送信・公開前に止めた誤りと、外部反映後に見つかった誤り
停止から手作業切替、復旧、再開までの時間

よくある質問

すべてのAI出力を人が承認すべきですか？

外部送信、公開、金額・契約の確定、データ削除など影響の大きい操作は承認を残します。社内の候補作成や分類は、誤りの影響と戻しやすさを見て抜き取り確認へ移せます。

承認者は何を見ればよいですか？

宛先・公開先、根拠、金額や日付、禁止情報、変更差分、実行後の戻し方を見ます。全文を漫然と読むのではなく、承認画面に判断材料をまとめます。

承認待ちで業務が止まる場合はどうしますか？

代理承認者、回答期限、期限超過時の通知を決めます。緊急時に承認を飛ばすのではなく、自動処理を停止して手作業へ切り替える条件を用意します。