生成AIの嘘への対策5つ|もっともらしい誤りを社内で防ぐ確認ルール

「ChatGPTに聞いた統計の数字が、後から調べたらデタラメだった」「存在しない法律の条文を、さも事実のように書かれた」——生成AIの嘘に、ひやりとした経験はありませんか。
結論からお伝えすると、生成AIの嘘をゼロにすることは仕組み上不可能であり、「AIは間違える前提」で文書の用途ごとに確認の濃さを決めることが、中小企業における最も現実的な対策です。真面目に全文章を疑ってチェックしようとすると、かえって人間の確認作業が増えてAIを使う意味がなくなってしまいます。
この記事では、生成AIが嘘をつく仕組みと嘘が出やすい4つの場面、社員数名の会社でも今日から回せる5つの対策、そして確認の手間を増やしすぎないための「現実的な線引き」を分かりやすく解説します。
生成AIが嘘をつくのはなぜ?ハルシネーションの仕組み
生成AIが事実と異なる内容をもっともらしく語る現象は、「ハルシネーション(幻覚)」と呼ばれます。これは操作ミスではなく、現在の生成AIの基本構造から生まれる性質です。
ChatGPTやGeminiなどの生成AIは、辞書やデータベースから正解を検索しているのではなく、「この言葉の次には、どんな言葉が来ると自然か」を確率で予測して文章をつないでいます。そのため、知らない情報であっても、文脈に合うように「それらしい言葉」を自動で組み立ててしまうのです。
実際、OpenAIが2025年9月に公開した研究報告『言語モデルでハルシネーションがおきる理由(Why Language Models Hallucinate)』でも、現在のAIの学習や評価の仕組みが、「分かりません」と答えるよりも当て推量で何か答えるほうを優遇してしまうことが原因の一つだと指摘されています。テストで空欄にすると確実に0点になりますが、当てずっぽうでも何か書けば正解になる可能性があるのと同じ理屈です。
AIの精度は日々上がっていますが、「嘘はゼロにならない」のが大前提です。まずは社内全体で「AIは知らないことでも自信満々に作ることがある」と共有しておくだけでも、出力結果をうのみにする事故を大きく減らせます。
特に注意したい!生成AIの嘘が出やすい4つの場面
生成AIの嘘は、どんな作業でも同じように起きるわけではありません。実務で特にトラブルになりやすいのは、次の4つの場面です。
- 数字・統計データ:「〇〇業界の市場規模は〜」「中小企業の〇%が〜」といった数値は、文脈に合うもっともらしい数字が創作されやすい典型です。
- 人名・社名・商品名:実在しない担当者名や、似た名前の他社サービス情報が勝手に混ざることがあります。
- 出典・URL・法令の条文:「〇〇省の調査によると」と書かれていても調査自体が存在しない、提示されたURLを開くとエラーになる(リンク切れ)、といったケースがよくあります。
- 最新情報・法律や補助金制度:AIが学習した時期より後の法改正は反映されないことがあり、すでに終了した補助金や古い税率を案内してしまう危険があります。
たとえば、工務店が「省エネ住宅の補助金上限額」を聞くと前年度の金額が混ざったり、飲食店が「食品表示のルール」を聞くと改正前の基準が出てきたりします。お客様や取引先に案内する事実情報ほど、AIの回答をそのまま使わないことが鉄則です。
一方で、文章の言い換え、メールの敬語調整、企画のアイデア出しなど「正解が一つに決まらない作業」では、ハルシネーションによる実害はほとんど起きません。
今日からできる!生成AIの嘘を防ぐ5つの対策
ハルシネーションを防ぐために、高価な専用システムを導入する必要はありません。プロンプト(AIへの指示文)の工夫と、社内のちょっとした確認ルールだけで十分に防げます。
対策1:根拠がないときは「不明」と答えさせる
指示文の最後に、次の一文を添える習慣をつけます。
「確かな根拠がない内容は推測で書かず、『不明』と答えてください。」
「分からないと言ってよい」と明示することで、AIの当て推量を抑えられます。ただし、この指示を入れても確率的に嘘が混ざることはあるため、これだけで安心せず次の対策と組み合わせるのが現実的です。
対策2:元の資料を渡して、その範囲だけで答えさせる
AIの記憶に頼らず、自社の料金表、社内規程、公式サイトの文章などをコピーして貼り付け、「この資料に書かれている範囲だけで答えてください」と指示します。
ここで一つ注意点があります。最近のAIにはWeb検索をして出典付きで答える機能がありますが、「Web検索機能を使えば100%正しい」というのは危険な思い込みです。検索結果に混ざっている古い個人ブログや誤ったまとめ記事をAIが拾い、事実として要約してしまうケースが少なくないためです。
対策3:「数字・固有名詞・日付」の3点だけを照合する
AIが書いた長文を最初から最後まで疑って読むのは大変です。確認する対象を「数字」「固有名詞(社名・人名・商品名)」「日付」の3つだけに絞り、元の資料や公式サイトと照らし合わせます。AIに「最後に、数字と固有名詞を含む文だけを箇条書きで抜き出してください」と頼んでおくと、チェック時間を大幅に短縮できます。
対策4:出典のURLは必ず自分の目で開いて確かめる
AIが参考URLを出してきた場合は、必ずクリックして実際のページを開き、本当にその数値や記述が載っているかを確認します。ページが存在しない、または別の内容が書かれている場合は、その情報は破棄してください。
対策5:社外に出す文書は、作成者以外の1人が承認する
見積書、提案書、ホームページのブログ記事、取引先への案内メールなど、社外に出る文書は作成者以外の1人が目を通してから公開・送信するルールにします。社員数名の会社なら、「社長か、その業務に詳しい先輩社員のどちらか1人」と決めておき、確認時に「参照した公式サイトのURL」も一緒にチャットで共有すると、確認する側の手間も減ってルールが形骸化しにくくなります。

確認の手間を増やしすぎない「現実的な線引き」の作り方
嘘対策を真面目にやりすぎると、今度は「人間の確認作業に時間がかかりすぎて、結局自分で書いたほうが早い」という本末転倒な状態に陥ります。
フリー株式会社が従業員500名以下の中小企業の経営者・バックオフィス担当者1,851名を対象に行い、2026年10月に公表した調査(『freee、中小企業のAI活用に関する意識調査を公開』)でも、業務で週1回以上AIを活用する人が51.1%に達する一方、AI利用者の52.5%が回答の精度や処理結果に不安を抱えており、23.7%が「削減できたはずの時間と同程度の『準備・確認・修正』の手間(検証労働)を実感している」と回答しています。
さらに注目すべきは、毎日複数回AIを使うヘビーユーザーほど不安率が59.9%と高い点です。「使い慣れれば確認しなくてよくなる」のではなく、使いこなしている人ほどAIの危うさを痛感し、確認の手間と向き合っています。
そこでおすすめなのが、「文書の行き先(誰に見せるか)」によって確認の濃さを4段階に分けることです。
| 文書の行き先 | 具体的な業務の例 | 確認の濃さ(社内ルール) |
|---|---|---|
| 1. 自分だけが使う | アイデア出し、思考の整理、下書き | 気になった点だけ軽く確認(承認不要) |
| 2. 社内で共有する | 会議の議事録、社内連絡メモ | 数字・固有名詞・日付だけ確認(承認不要) |
| 3. 社外に出す | 提案書、ホームページ記事、顧客メール | 数字等の一次情報照合 + 別の1人が承認 |
| 4. お金・法律に関わる | 契約書、請求書、補助金申請、労務規定 | AIは構成案・下書きまで。最終判断は人と専門家 |
この表をA4用紙1枚や社内チャットのピン留めに貼っておけば、社員が毎回「どこまで調べればいいか」と迷わずに済みます。製造業なら「製品仕様書や検査記録」、建設業なら「見積条件や法規チェック」など、自社の業種で「4. お金・法律に関わる」に該当する書類を具体的に書き出しておくとさらに運用しやすくなります。
まとめ|「全部疑う」のではなく「出す先でチェックを変える」
- 生成AIの嘘(ハルシネーション)は、次の言葉を確率で予測する仕組みから生まれるため、ゼロにはならない前提で付き合うことが大切です。
- 特に「数字・統計」「人名・社名」「出典URL」「最新情報・制度」の4つは嘘が出やすいため、Web検索機能を使っていても必ず一次情報を確認しましょう。
- 対策は「不明と答えさせる」「資料を渡す」「数字等を照合」「URLを開く」「社外向けは承認」の5つ。文書の行き先ごとに確認の濃さを変えることで、手間を増やしすぎずに安全に活用できます。
「社内でAIを使い始めたけれど、どこまで社員に任せていいか線引きに迷っている」「自社の業務に合わせた現実的なAI活用ルールを作りたい」という場合は、株式会社アドクルーへお気軽にご相談ください。御社の業務内容や人数規模に合わせて、無理なく回る使い方のルール作りをサポートいたします。

