AI導入で人が確認すべき業務ステップ

この記事が答える問い

文章の下書き、データの分類、問い合わせの一次対応。AIに任せられそうな業務は増えています。一方で「どこまで任せていいのか分からない」「全部任せるのは不安だが、全部確認するなら意味がない」という声もよく聞きます。

この記事では、業務の工程を「AIに任せる部分」と「人が確認する部分」に分けるときの考え方を整理します。

結論

工程ごとに、次の3つの問いで判断します。

• 間違えたときの影響は大きいか：外部に出る、お金が動く、取り消せない
• 後から取り消せるか：間違いに気づいたとき、元に戻せるか
• 正解を機械的に確かめられるか：結果が正しいかを、ルールや既存データで照合できるか

影響が小さく、取り消せて、正解を確かめられる工程はAIに任せやすい。そうでない工程ほど、人が確認する段階を残します。

AIに任せやすい工程・任せにくい工程

任せやすい工程

• 社内向けの下書きや要約（人が読んでから使う前提のもの）
• 大量のデータの一次分類（後から人が見直せるもの）
• 既存のルールで正誤を判定できる作業

これらは、AIの出力がそのまま外に出るわけではなく、間違いがあっても後工程で気づいて直せます。

任せにくい工程

• 顧客に送るメールや請求書など、外部に出るもの
• 支払い・発注など、お金や在庫が動く操作
• 一度実行すると取り消せない処理（削除、確定、公開）

これらは、AIに下書きや候補を作らせるところまでにして、確定や送信のボタンは人が押す構成にするのが基本です。

「自信のあるものだけ自動」という分け方

工程を丸ごと任せるか任せないかではなく、同じ工程の中で、確実なものだけを自動で処理し、迷うものを人に回すという分け方もあります。

あるEC運用プラットフォームで商品データの対応づけを自動化したとき、1つの商品ページに複数の品番が載っている場合に「選択肢の先頭の品番が正解」とみなす方法の精度を実測すると、71%でした。7割当たる方法でも、残りの3割を自動で書き換えれば、正しいデータを壊してしまいます。

そこで、確実に判定できるものだけを自動で確定し、残りはレビュー用のキューに回して人が確認する構成にしました。AIやルールの精度が100%にならない前提で、人の確認が必要な件数を減らすことを目標にすると、現実的な自動化になります。

人が確認するポイント

人が確認する段階では、何を見ればよいかを決めておかないと、結局すべてを読み直すことになります。確認の観点は、たとえば次のように絞れます。

• 事実と数値：日付、金額、数量、固有名詞が元のデータと合っているか
• 宛先と範囲：誰に、どこまで届くものか
• 言い切りすぎていないか：根拠のない断定や、約束していない内容が含まれていないか

また、「テキストが一致しない＝誤り」とは限らない点にも注意が必要です。前述のプロジェクトでは、誤りに見えた1,446件を実際の紐付けで測り直したところ、67%はすでに正しく紐付いていて、テキストが古いだけでした。見た目の不一致だけを根拠に一括修正していたら、正しいデータまで書き換えるところでした。何を基準に「誤り」と判断するかも、人が決めるべき部分です。

導入前に決めておくこと

正解のサンプルを用意する

AIやルールを変更したときに精度が落ちていないかを確かめるため、正解が分かっているサンプルを用意しておきます。前述のプロジェクトでは、変更のたびに27件の正解セットと本番の全データで結果を比べ、以前は正しく処理できていたものが壊れていないかを確認してから反映していました。

入力してはいけない情報を決める

AIサービスに入力したデータがどう扱われるかは、サービスや契約によって異なります。顧客の個人情報や社外秘の情報を入力してよいかどうかは、導入前に社内のルールとして決めておくべき項目です。

公的なガイドラインを参照する

総務省と経済産業省は「AI事業者ガイドライン」を公開しており、2026年3月31日に第1.2版が公表されています。本編のほかにチェックリストやワークシートも公開されているので、社内ルールを作るときの出発点として使えます。

まとめ

AI導入でうまくいくのは、「AIに全部任せる」でも「AIの出力を全部確認する」でもなく、工程ごとに任せる範囲を決める方法です。影響が大きく、取り消せず、正解を確かめにくいところに人の確認を集中させれば、確認の手間を増やさずに安心して自動化を広げられます。