ブログ

AIはなぜ嘘をつく？仕事で使うなら外に出す前に元の資料と照らす4か所

2026/9/29・SanSaQ代表

たとえば、社長がAIに、ある制度の申し込みの締め切りを聞いて、返ってきた日付で取引先への案内文を書き、事務の方に送っておくよう頼んだとします。送る前に事務の方が念のため役所のページを開くと、締め切りは別の日でした。AIは、正しい答えを返すときと同じ落ち着いた書きぶりで、その日付を示していました。

社長の頭に「AIは嘘をつくから、仕事には使えない」という考えがよぎるのは、このときです。ただ、使うのをやめる前に、社長の側で決められることが2つあります。どの頼み方なら仕事に使えるかと、外に出す前にどこを確かめるかです。この記事で書くのは、その2つです。

AIが嘘をつく理由

AIが嘘をつくのは、答えを知らないときも「分かりません」と言わずに、それらしい文を作ることがあるからです。ChatGPTのような生成AIが、事実と違うことをもっともらしく答える現象は、ハルシネーションと呼ばれます。

ChatGPTの開発元のOpenAIは、2025年9月5日に公開した研究の紹介（言語モデルでハルシネーションがおきる理由）で、原因を学び方と評価のやり方の両方から説明しています。言語モデルは、大量の文章を読んで、次に来る単語を予測するやり方で学びます。そのうえ、学んだ結果を採点する評価が、「分かりません」と答えるより、当て推量で答えたほうが点になる形になっている、という説明です。同じページでOpenAIは、ハルシネーションは今も、どの言語モデルにとっても根本的な問題だと書いています。

OpenAIのヘルプページ（ChatGPT は真実を伝えますか？、2026年9月29日に確認）にも、答えが間違っていても自信があるように聞こえる場合があると書かれています。使う側から見ると、正しい答えと間違った答えは、書きぶりでは見分けがつきません。見分ける手がかりは、答えの外にある元の資料のほうにあります。

仕事に使えるのは、照らし合わせる元の資料があるときだけ

AIの答えを仕事に使えるかどうかは、頼み方で分かれます。分かれ目は、答えと照らし合わせる元の資料が、手元にあるかどうかです。

冒頭の場面は、3つ目の頼み方でした。締め切りと照らし合わせる元の資料は、役所のページです。

資料やメモを渡す頼み方では、渡す人が、その中身を、使うAIに入れてよいかどうかを先に確かめます。仕事ごとに、入れてよいAIを決めておく表は、生成AIの社内ルールの作り方にあります。

外に出す前に元の資料と照らす4か所（ハルシネーション対策）

照らすのは、その文書を外に出す担当者です。担当者は、AIが作った文を読みながら、次の4か所に丸をつけます。

1. 数字: 金額、数量、割合
2. 名前: 人、会社、商品、制度の名前
3. 日付と期限: 日付、曜日、締め切り
4. 決まりごと: 法律や制度の条件、契約の中身、社内の決まり

丸をつけたら、担当者は1つずつ元の資料と照らし、元の資料と同じだった丸を消していきます。元の資料に書いていないのにAIの文に入っているものは、担当者が文ごと削るか、公式の資料で裏を取ってから残すかを決めます。資料を渡していても、AIは、資料にない一文をそれらしく書き足すことがあります。「AIが嘘をつく理由」で書いたとおり、AIは文章の続きを予測して答えを作るので、資料にない話でも、文として自然につながれば、そのまま書き足してしまう場合があるためです。

4か所に絞るのは、間違ったまま外に出たときに取り消しにくいのが、この4つだからです。言い回しの不自然さは、読めば気づきます。数字や日付の取り違えは、文章としては自然に読めてしまうので、元の資料と照らさないと見落とします。

AIに「出典も書いて」と頼む方法もあります。ChatGPTは、検索の機能が有効なときは、ウェブの情報を出典つきで答えます。それでも、担当者の確かめは残ります。先ほどのOpenAIのヘルプは、ハルシネーションの例として、作り上げられた引用や、存在しない情報源を示すことも挙げ、引用や外部の文書への参照は、使う人が確かめるよう呼びかけています。示された出典のページを開き、同じことが書いてあるかを見るところまでが確かめです。

外に出す前に人が確かめるという考え方は、AIを作る側の説明にもあります。Microsoftの説明（Microsoft Copilot のデータ、プライバシー、セキュリティ、2026年7月9日更新）にも、Copilotの答えは100%事実だという保証がなく、ほかの人に送る前には人の判断が要る、とあります。

機械に断定させず、最後の判断を人に残すことは、SanSaQのお約束の2つ目にも入れています。AIを仕事に入れるときも、最後に元の資料と照らすのは人です。

4か所を照らしきれない仕事

照らす元の資料が、社内のどこにもない仕事があります。打ち合わせで口頭で決めたことを、メモを残さないままAIに文章にさせる場合です。照らす先がないので、4か所に丸をつけても、担当者は丸を消せません。

AIに読ませる明細の件数が、人が1件ずつ照らせる量を超える仕事もあります。担当者が丸をつけて照らすやり方は、その量に追いつかないので、今回は外します。

よくある質問

Q. ハルシネーションとは、AIの嘘のことですか。

AIが、事実と違う内容を、本当らしく答えてしまうことを指す言葉です。答えの作り方から起きる間違いですが、受け取る側から見れば、嘘と同じ働きをします。そこで、この記事では「嘘」と書いています。

Q. ハルシネーションが起きやすいのは、どんな質問ですか。

めったに出てこない事実を問う質問です。OpenAIの研究の紹介は、ペットの誕生日のように頻度の低い事実は、文章のパターンだけでは予測できないとしています。同じ紹介には、ある研究者の誕生日を聞いたら、3つの違う日付が返ってきて、どれも正しくなかった例もあります。学習した時点より後の出来事も、検索を使わない限り答えに入らないことが、OpenAIのヘルプに書かれています。

Q. AIに嘘をつかせない頼み方はありますか。

なくすことはできません。OpenAIも、ハルシネーションを大きく減らしたモデルでも、まだ起きると書いています。「渡した資料に書いてあることだけで答えて」「分からないところは『分からない』と書いて」と頼むのは、資料の中で答えさせ、当て推量で埋めさせないための頼み方です。それでも間違いは残るので、外に出す文書では、4か所を照らす手順を残します。

Q. AIを仕事で使い始めるなら、どの仕事からがいいですか。

照らし合わせる元の資料が手元にある仕事からです。メモや資料を渡して下書きを作らせる仕事なら、担当者が元の資料を見ながら直せます。最初の1つの選び方は、中小企業のAI導入は何から始める？に書きました。

Q. ハルシネーションが少ないAIはどれですか。

製品や時期によって変わるため、この記事では比べていません。どのAIを使っていても、外に出す前に4か所を照らす手順は同じです。

Q. AIで作った議事録にも、間違いは混じりますか。

録音を文字にしたものには、聞き間違いが入り込むことがあります。議事録を作るときの確かめ方は、AI議事録の使い方にまとめています。

明日やること

社員がAIで作った文書を、1枚だけ借りてください。社長が自分で、数字・名前・日付・決まりごとの4か所に丸をつけ、元の資料と1つずつ照らします。元の資料が見つからない丸が残ったら、社長はその文書を作った担当者に、AIに何を渡して頼んだかを聞きます。その答えが、次からその仕事をどの頼み方にするかを、社長が担当者と決める材料になります。

確かめを入れる仕事を1つに決めきれないなら、無料のご相談で、いまAIに頼んでいる仕事と、文書が外に出るまでの流れを伺います。最初に直す候補と、そこを選ぶ理由を、お話の中でお伝えします。お客さまの名前が入った文書は、受け取らない決まりにしています。その場で契約をお勧めすることはありません。