AIの回答が信用できないときの使い方｜聞かずに渡す

取引先の社名を聞いたら、少し違う名前が返ってきた。補助金の条件を聞いたら、去年の内容のままだった。もっともらしい文章なので、うっかりそのまま使いそうになった。それ以来、AIの答えを見るたびに「これは本当だろうか」と引っかかる。「ai 回答 信用 できない」で検索したのは、たぶんこういう経験をした後です。

検索すると「嘘をつかせないプロンプト」や「ハルシネーション対策」の記事がたくさん出てきます。ただ、頼み方を工夫しても、間違いはゼロにはなりません。この記事では、AIを信用するかしないかの二択をやめて、信用しなくても仕事が軽くなる使い方に切り替える方法を書きます。

AIの答えが信用できないのは、知識を聞いているから

AIは分からないときも、それらしい答えを作ります。いちばん間違えやすいのは、AIの記憶に頼る質問です。

ChatGPTを作っているOpenAIは、2025年9月5日に、AIがもっともらしい誤りを答える理由についての研究を公表しました（OpenAI「Why language models hallucinate」）。そこでの説明は、いまのAIの訓練と評価のやり方が、「分からない」と正直に言うより、当て推量で答えるほうを評価してしまう、というものです。

択一式のテストを思い浮かべると分かりやすいです。分からない問題でも、空欄にするより何かを選んだほうが点になる可能性があります。それを繰り返して育ったAIは、分からないときも何かを答えます。しかも、その答えは正しいときと同じ自然な文章で出てきます。

間違えやすいのは、AIが自分の記憶から答えを作る場面です。

• 取引先や人の名前、住所、電話番号
• 料金、件数、割合などの数字
• 日付や期限
• 法律、税金、補助金などの制度（改正前の内容が出やすい）
• 最近の出来事

どれも、AIに「知識を聞いている」質問です。AIの答えを疑うようになったきっかけの多くは、このどれかのはずです。

「聞く」から「渡す」へ使い方を変える

手元の資料を渡して加工させる使い方なら、答え合わせの相手が手元にあります。確かめる手間が大きく減ります。

AIの使い方は、大きく3つに分けられます。

「AIが信用できない」と感じている人の多くは、1行目の使い方をしています。2行目と3行目に仕事を寄せると、同じAIでも信用の問題はずっと小さくなります。

渡すときの頼み方

渡す使い方でも、AIが資料に無いことを足してしまうことはあります。頼むときに一言加えると、足された部分に気づきやすくなります。

• 「この資料に書いてあることだけで答えてください。載っていなければ『資料に記載なし』と書いてください」
• 「要約の各行に、元の資料のどこから取ったかを書いてください」
• 「数字は資料に書いてある表記のまま使ってください」

こう頼んでおけば、確かめるときは「記載なし」の行と、数字の行だけ元の資料と見比べれば済みます。全部を読み直す必要はありません。

聞く使い方がどうしても要るとき

調べものにAIを使いたい場面もあります。そのときは、答えそのものではなく調べる入口として使います。「この補助金について確かめるなら、どの役所のどの資料を見ればいいか」と聞き、実際にその資料を自分で開きます。AIが挙げた資料名やURLが実在しないこともあるので、開けなかったら、その答えは使いません。

使っていいかは「確かめる手間」で決める

確かめる手間が、一から自分でやる手間より小さい仕事にだけ使います。それ以外は、AIが正しくても使う意味がありません。

たとえば、1時間の会議の議事録を5行にまとめる仕事なら、AIに頼んで5行を元の議事録と見比べるほうが、自分で読み返してまとめるより早く終わります。確かめる手間のほうが小さいので、使う意味があります。

反対に、補助金の申請条件をAIに聞いても、結局は公募要領を全部読んで確かめることになります。それなら最初から公募要領を読んだほうが早い。こういう仕事は、AIが正しく答える日があっても、使っても何も減りません。

見るのは2つだけです。確かめやすいかどうかと、間違えたときに困るかどうか。

右下の「確かめにくくて、間違えると困る」仕事は、AIに向いていません。ここを無理にAIでやろうとすると、確かめる手間が増えるだけで何も減りません。何を任せるかの考え方そのものは、AIに任せていい仕事の見分け方｜判断は新人と同じ基準でに書きました。

モバイル社会研究所が2026年9月24日に公表した調査では、生成AIへの不満のうち「誤情報が含まれている」が40.4%でした（モバイル社会研究所「生成AIの不満『誤情報』40%に増加、確かめながら使う姿勢の広がりも」）。一方で、答えを確かめたり選んだりするのを負担と感じている人は、利用者の19.5%です。確かめながら使っている人の多くは、それを重荷にしていません。確かめる範囲を絞っているからだと考えられます。この調査の読み方は、生成AIの不満「誤情報」が40%に｜確かめる人ほど気づくで解説しました。

「うちの仕事のどれならAIに渡せるか分からない」ところから、ご相談ください。いまの仕事を一緒に並べて、確かめやすく手間の減るものから順に仕分けます。相談と見積りに費用はいただきません。

確かめるのは4か所と、出す人

確かめる場所は数字・固有名詞・日付・制度の4つに絞ります。確かめる人は、その文章を社外に出す人です。

AIの答えを全部疑って読むと、自分で書くより時間がかかります。それでは使わなくなります。間違えると困るのは、ほとんどの場合、次の4つです。

1. 数字（料金、数量、割合）
2. 固有名詞（社名、人名、商品名、住所）
3. 日付（期限、納期、開催日）
4. 制度（法律、税金、補助金、契約の条件）

文章の言い回しや構成は、多少ずれていても大きな事故になりません。この4つだけを元の資料と見比べれば、確かめる時間は数分で済みます。

確かめる人は、別に立てません。社外に出す人が、出す前にこの4つを見る。これを社内で1行決めておけば足ります。大きい会社なら、作る人と確かめる人を分けて二重に見る体制も組めます。人手の足りない会社で同じことをやると、確かめる人のところで仕事が止まります。出す人が見るのがいちばん速く、責任の所在もはっきりします。社内で決めておくことの全体は、生成AIの社内ルールは3つで足りる｜急ぐ義務はまだないにまとめました。

AIに詳しくなる必要もありません。確かめる場所が決まっていれば、AIの仕組みを知らない人でも同じように使えます。この考え方はAIを使いこなせない｜詳しくなる必要はないにも書きました。

今日からやること

よくある質問

ChatGPTに嘘をつかせない設定はありますか。

間違いを完全になくす設定はありません。頼み方で減らすことはできますが、ゼロにはなりません。設定を探すより、手元の資料を渡して加工させる使い方に寄せるほうが確実です。確かめる相手が手元にあれば、間違いが混じっても気づけます。

AIが出してくる出典も嘘のことがありますか。

あります。AIが挙げた資料名やURLが実在しない、実在しても書かれている内容が違う、ということが起きます。出典は、自分で開いて中身を確かめたときに初めて使えます。開けなかった出典の付いた答えは使いません。

Googleの検索結果に出る「AIによる概要」も信用できないのですか。

検索結果の上に出るAIの要約も、同じように間違えることがあります。使い方は同じで、答えそのものではなく入口として扱います。要約の下に出ている元のページを開いて、数字や条件はそちらで確かめてください。

ChatGPTが間違いを認めないときはどうすればいいですか。

言い合っても時間がかかるだけです。正しい情報が載っている資料を渡して、「この資料に沿って直してください」と頼むほうが早く済みます。それでも直らないなら、その仕事はAIに向いていないと判断して、自分でやります。

まとめ

AIの回答が信用できないのは、多くの場合、AIに知識を聞いているからです。AIは分からないときも、それらしい答えを作ります。頼み方を工夫しても、間違いはゼロにはなりません。

だから、信用するかしないかで迷うのをやめて、使い方を変えます。答えを聞くのではなく、手元の資料を渡して要約・整理・言い換えをさせる。正解の無い案出しに使う。こうすれば、確かめる相手が手元にあるので、間違いが混じってもすぐに気づけます。

使ってよいのは、確かめる手間が一から自分でやる手間より小さい仕事だけです。確かめる場所は数字・固有名詞・日付・制度の4つ、確かめる人は社外に出す人。AIを使ったかどうかには意味がありません。意味があるのは、それで何分減ったかだけです。

どの仕事を任せるかはAIに任せていい仕事の見分け方｜判断は新人と同じ基準でに、社内で決めておく1行は生成AIの社内ルールは3つで足りる｜急ぐ義務はまだないに、詳しくならなくても使える形はAIを使いこなせない｜詳しくなる必要はないに書きました。