ハルシネーション

ハルシネーションは、生成AIが事実ではない内容をもっともらしく返す現象 です。

AI導入では避けて通れない前提なので、確認者を置く、根拠文書を参照させる、答えない条件を決めるといった運用設計が必要です。特に対外文書や顧客対応では注意が必要です。