以下のルールに従って回答してください。
1. 確認できる事実と推測を明確に分ける。
2. 不確かな情報を推測で補わない。
3. 分からない場合は「分かりません」と明示する。
4. 数字・日付・人物名・固有名詞は特に慎重に確認する。
5. 最新情報が必要な場合は、Web検索などで確認する。
6. 重要な事実については、可能な限り一次情報を優先する。
7. 出典を示せる場合は出典を示す。
8. 質問に誤った前提が含まれている場合は、その点を指摘する。
9. 確実性が低い情報があれば明示する。
※事前に上記をコピペしてAIに指示しておくと良い
AIを使うなら、ぜひ知っておきたい「ハルシネーション」ChatGPTなどの生成AIは、とても便利な一方で、事実ではない情報を、もっともらしく回答してしまうことがあります。
これを「ハルシネーション」と呼びます。
AIにおけるハルシネーションとは？
事実ではない情報を、正しい情報であるかのように生成してしまう現象
のことです。
日本語では「幻覚」と訳されますが、AIの場合は、
「分からないことを、分からないと言わずに
もっともらしい答えを作ってしまう」
と考えると分かりやすいでしょう。
どんな間違いが起こるのか？
「ある歴史上の人物は、○○大学の教授でしたか？」
実際には教授ではなかったとしても、AIが
「はい、その人物は○○大学で数学教授を務めました。」
と答えてしまう場合があります。
ハルシネーションでは、次のような間違いが起こることがあります。
- 存在しない本や論文を紹介する
- 存在しないURLを作ってしまう
- 人物の経歴を間違える
- 数字や統計を間違える
- 法律や制度を古い情報で説明する
- 存在しない研究を「実際にある研究」として紹介する
- 動作しないプログラムコードを生成する
なぜハルシネーションが起こるのか？
ここを理解することが非常に重要です。
生成AIは、人間のように「すべての事実を知っている機械」ではありません。
AIは大量の文章などを学習し、その情報をもとに
「次にどのような言葉が続く可能性が高いか」
を予測しながら文章を生成しています。
ハルシネーションを防ぐ7つの方法
「分からなければ分からない」と指示する
AIに最初から、
「不確かな情報は推測せず、分からない場合は分からないと答えてください」
と伝えます。
出典を求める
「その情報の根拠となる資料や公式サイトを示してください」
と指示します。
特に歴史、科学、法律、統計、人物の経歴などでは重要です。
最新情報はWeb検索を利用する
ニュース、価格、Windows、Apple製品、法律、AIサービスなど、
変化する情報は検索して確認することが重要です。
一次情報を確認する
政府・官公庁、大学、研究機関、メーカー公式サイト、
法律・官報、原論文など、できるだけ信頼性の高い情報源を利用します。
複数の情報源で確認する
重要な情報については、一つの情報だけを信じず、
複数の独立した情報源で照合します。
これを「クロスチェック」といいます。
「事実」と「推測」を分けてもらう
AIに「確認された事実と推測を明確に分けてください」と指示します。
これだけでも、AIの回答を評価しやすくなります。
重要な情報は人間が最終確認する
AIは非常に優秀なアシスタントですが、
最終的な事実確認をすべてAIに任せるのは危険です。
特に法律・医療・金融・契約・研究などは、人間による確認が重要です。
ハルシネーションを減らすプロンプト
ChatGPTなどを利用するときは、次のような指示を加えると効果的です。
以下のルールに従って回答してください。
1. 確認できる事実と推測を明確に分ける。
2. 不確かな情報を推測で補わない。
3. 分からない場合は「分かりません」と明示する。
4. 数字・日付・人物名・固有名詞は特に慎重に確認する。
5. 最新情報が必要な場合は、Web検索などで確認する。
6. 重要な事実については、可能な限り一次情報を優先する。
7. 出典を示せる場合は出典を示す。
8. 質問に誤った前提が含まれている場合は、その点を指摘する。
9. 確実性が低い情報があれば明示する。
AIエージェントでは、さらに重要になる
ハルシネーションは、単に「AIが間違った回答をする」という問題だけではありません。
AIエージェントのように、AIが
「調べる・判断する・実行する」
ようになると、間違った情報をもとに行動してしまう可能性があります。
↓
情報検索
↓
一次情報確認
↓
複数情報源で照合
↓
事実と推測を分離
↓
回答・実行
↓
人間が最終確認
まとめ
ハルシネーションを恐れるのではなく、正しく付き合う
AIは非常に便利なツールですが、
「AIが言ったから正しい」と考えてはいけません。
- 分からないことは推測させない
- 出典を確認する
- 最新情報は検索する
- 一次情報を優先する
- 複数の情報源で照合する
- 事実と推測を分ける
- 重要な判断は人間が最終確認する
AIを上手に使うためには、
「答えをもらう能力」だけでなく
「答えが正しいか確認する能力」も必要です。
