生成AIの回答に、存在しない数字や出典、事実と異なる説明が混ざっていた経験はないでしょうか。こうした誤りはハルシネーションと呼ばれ、現在の生成AIでは完全になくすことはできません。そのため業務では、誤りが出る前提で「出にくくする指示」と「外に出る前に見つける確認」を組み合わせて対策します。この記事では、ハルシネーションが起きる理由と、業務で被害を出さないための具体的な手順を、AIで記事や資料を作っている当社の運用例とあわせて解説します。
ハルシネーション対策は「出にくくする」と「見つける」の二段構え
この記事の要点
- ハルシネーションは生成AIの仕組み上ゼロにはできないため、誤りが出る前提で運用を組む。
- 指示の段階では、参照する資料を渡し、分からないことは分からないと答えさせる。
- 確認の段階では、数字・固有名詞・出典を重点的に照合し、社外に出るものは人が承認する。
プロンプトを工夫すれば誤りは減りますが、なくなるわけではありません。重要なのは、誤りが社外に出る前に止まる工程を業務の流れに組み込むことです。
ハルシネーションとは
ハルシネーションとは、生成AIが事実と異なる内容や根拠のない内容を、もっともらしい文章で出力してしまう現象のことです。英語で「幻覚」を意味する言葉に由来します。
やっかいなのは、誤った内容も正しい内容と同じ自然な文体で書かれる点です。文章の滑らかさから正誤を見分けることはできないため、読み手が気づかないまま資料や記事に紛れ込みやすくなります。
ハルシネーションが起きる理由
生成AIは、学習した大量の文章をもとに「次に来そうな言葉」を予測して文章を組み立てています。事実を記憶から検索して答えているわけではないため、次のような場面で誤りが出やすくなります。
- 学習データに含まれていない、または少ない情報を聞かれたとき（最新の出来事、地域や業界に特化した情報、社内の情報）。
- 具体的な数字、日付、人名、URL、出典を求められたとき。
- 質問に誤った前提が含まれているとき。AIが前提に合わせて答えを作ってしまう。
- 「必ず答える」ことを求められ、分からないと言いにくい指示になっているとき。
業務でハルシネーションを防ぐ手順
当社では、AIに作業を任せるときに次の手順を踏んでいます。
- 参照すべき資料をAIに渡す。社内資料、公式サイト、公的機関の発表など、根拠にしてよい情報源を指定し、それ以外の推測で補わないよう指示する。
- 分からないことは「不明」と書かせる。確認できない数字や日付は空欄や要確認の印で残すよう指示し、埋めるために作らせない。
- 数字・固有名詞・出典に印を付けさせる。どの記述がどの資料に基づくかを示させると、確認の範囲が絞れる。
- 出力を一次情報と照合する。数字、日付、人名、社名、URLは、元の資料や公式ページで一件ずつ確かめる。
- 社外に出る前に人が承認する。記事、顧客へのメール、提案書など社外に出るものは、確認した人の承認を経てから使う。
指示の書き方そのものはプロンプトの作り方で詳しく解説しています。
確認を仕組みにする方法
手順を決めても、担当者の注意力だけに頼ると、忙しいときに確認が抜けます。確認を個人の努力ではなく仕組みにすることが大切です。
重点的に確認する項目を決めておく
文章全体を同じ密度で確認するのは現実的ではありません。誤りが出やすく、出たときの影響が大きい項目に絞ってチェックリストにします。
- 数字（金額、割合、件数、期間）
- 日付と時点（いつ時点の情報か）
- 人名・社名・製品名・サービス名
- 出典とURL（実在し、内容が記述と一致するか）
- 法律・制度・規約に関する記述
社外に出るものは承認を必須にする
当社では、AIが作る成果物のうち、ブログ記事や顧客へのメール文面など社外に出るものは、AIが下書きまでを担当し、代表が承認してから公開・送信しています。AI側のツールも下書きしか作れない設計にしているため、確認を経ずに外へ出ることはありません。
指摘を記録し、指示に戻す
確認で見つかった誤りは、差し戻しの理由として記録します。同じ種類の誤りが続く場合は、指示や手順書に「この情報は資料に基づいて書く」「この項目は推測しない」といったルールを追加します。
AIの活用ルールや確認の仕組みづくりを、業務に合わせて一緒に整理します。
当社が記事制作で決めているルール
当社はブログ記事の制作にAIを使っています。誤情報を出さないために、次のルールを手順書に明記しています。
- 数値や実績は、出典が確認できるもの、または自社の事実だけを書く。確認できないものは書かない。
- 時点によって変わる情報には「2026年時点」のように時点を明記する。
- 統計や主張には一次情報へのリンクを付ける。
- 記事内のリンク先が実在するかを公開前に確認する。
過去には、存在しないページへのリンクを推測で書いてしまい、リンク切れになったことがありました。それ以降、リンク先は実在を確かめたものだけを使い、公開前にリンクを確認する工程を加えています。
「それらしい出典やURL」は特に注意が必要です。AIは実在しない資料名やURLを、本物と同じ形式で作ることがあります。出典は必ず実際に開いて確認します。
ハルシネーション対策でよくある失敗
- AIに「正しいか確認して」と頼むだけで済ませる。同じAIの自己チェックだけでは、誤りを見逃すことがある。
- 回答が自然な文章だから正しいと判断する。文体の滑らかさは正確さの根拠にならない。
- 確認の範囲を決めずに全文を流し読みする。重要な数字や固有名詞の確認が抜けやすい。
- 社内向けと社外向けで同じ確認レベルにする。社外に出るものほど確認を厚くする。
まとめ
- ハルシネーションは生成AIの仕組み上ゼロにはできないため、誤りが出る前提で運用する。
- 指示では参照資料を渡し、分からないことは不明と書かせる。
- 数字・日付・固有名詞・出典を重点的に一次情報と照合する。
- 社外に出るものは人の承認を必須にし、見つかった誤りは指示や手順に反映する。
AIに任せる業務と人が確認する工程の分け方は、AIに任せる業務の線引きも参考にしてください。AIの導入や業務への組み込みについては、サービス一覧からご確認いただけます。
