AIの回答が間違うときは何を直す？入力・参照資料・指示を分けて確認する

業務用AIの回答が間違ったときは、まず元資料のどこから違っているかを確かめます。 指示を長くしたり、何度も回答させたりする前に、入力、参照資料、指示、出力、人の確認を分けて見ます。

以下は架空の資料確認業務を使った説明です。特定のAIモデルの性能評価や、誤りをなくせる指示文を示すものではありません。

1．もっともらしい文章と、確認できた事実を分ける

回答の読みやすさだけでは、元資料との一致は分かりません。確認対象の値や記述を取り出し、原本の該当箇所へ戻ります。AIが示した参照先も、実在して内容が対応するかを確認します。

誤りを含む出力を業務へ渡した場合は、影響した資料と範囲を先に確認し、必要な確認担当へ戻します。再実行した回答が変わっただけで、使用済みの資料まで直ったとは扱いません。

2．入力不足と、参照先の違いを確認する

必要なページや列が渡っていない場合、出力側の指示だけを変えても根拠は増えません。旧版を参照している場合も、先に現在の資料を確認します。

元の資料にも答えがない場合は、誰へ何を確認するかを残します。AIの知識から業務上の事実を補わせず、「未確認」と返せるかを試します。

3．読取り・整理・判断を分けて試す

例えば請求番号の取り違えなら、文字の読取り、行の対応付け、同じ請求かという判断のどこで変わったかを見ます。複数の工程を一つの回答にまとめると、原因が追いにくくなります。

回答の各項目について、提供資料の該当箇所と一致するかを確認してください。根拠を特定できない項目は「根拠未確認」としてください。資料にない説明や数字を追加しないでください。相違の候補と、人に確認する内容を分けてください。

このような再確認の指示を使っても、同じAIの回答だけで検証を完結させません。原本、確定した参照資料、件数や合計の独立した照合を組み合わせます。

4．変更は一つずつ記録し、通常例も再確認する

指示、資料、出力列を同時に大きく変えると、どの変更が効いたか分からなくなります。直す対象を絞り、誤った例に加えて以前から使っている通常例も試します。

デジタル庁の生成AI技術検証では、具体的な利用場面のテスト例が公開されています。自社でも、期待する動作と未確認の範囲を残します。

5．直せない場合の止め方と代替手順を持つ

再確認で誤りが続く場合は、対象を絞る、人の確認へ戻す、既存の方法で処理するなどを検討します。未確認のまま自動処理の範囲を広げません。変更管理で、切替えと戻し方も整理します。

当事務所は、一つの業務について入力・出力・確認工程を分けて見直します。料金・標準範囲と成果物の見本をご覧ください。個別の誤りについて、再現条件と影響する範囲から確認します。

AIの回答や確認負担を見直す相談をする

よくあるご質問

高性能なAIへ変えれば解決しますか？

解決するとは限りません。入力不足、古い参照資料、曖昧な識別子などは別に確認が必要です。利用環境を変える場合も、同じ対象で結果を比べます。

AIに自分の回答を点検させれば十分ですか？

点検の補助には使えますが、それだけで確認を完了しません。元資料や確定した根拠、独立した件数・合計の照合などで確かめます。

一度正しい回答が出たら運用してよいですか？

一度の回答だけでは判断しません。通常例と例外で確認し、実際の担当者が確認・保存・例外対応まで進められるかを試します。

元資料に答えがない場合はどうしますか？

根拠未確認と残し、確認する相手と項目を整理します。AIに実務上の事実を創作させて確定する方法にはしません。

参考資料

• デジタル庁「生成AIの適切な利活用に向けた技術検証」。原因の切分け表は当事務所の業務例です。