ハルシネーション​とは？

業務で​AIを​使う​場合は、​数値・​固有名詞・​法律や​制度に​関わる​内容を​うのみに​せず、​一次情報で​裏を​取ってから​使うことが​前提に​なります。​AIの​出力は​「下書き」と​位置づけ、​最終確認を​人が​担う​運用に​すると​リスクを​抑えられます。​自社の​資料を​参照しながら回答させる​RAGと​いう​仕組みも、​事実と​異なる​回答を​減らす方法の​一つです。

企業に​とっては、​ChatGPTなどの​AIが​自社に​ついて​誤った​説明を​してしまう​ことも​課題に​なります。​存在しない​サービスを​挙げる、​他社の​情報と​取り違える、​古い​情報を​今の​ことのように​述べる、と​いった​ケースです。​放置すると、​取引先や​求職者の​誤解に​つながる​おそれが​あります。

対処の​基本は、​誤った​回答を​日付・​質問文とともに​記録する、​AIの​提供元の​フィードバック​窓口から​報告する、​自社サイトで​正しい​情報を​明確に​発信する、​会社名・​事業内容・​所在地などの​基本情報の​表記を​各所で​そろえる、の​4つを​並行して​進める​ことです。​報告しても​修正されるとは​限らず、​AIの​回答を​直接修正させる​方法も​ないため、​AIが​参照する​情報源を​正確に​整える​ことが​対処の​中心に​なります。