搜尋與 AI
AI 幻覺是什麼？
AI Hallucination
發布於
AI 生成看似可信、實際錯誤或缺乏依據的內容，例如捏造一篇不存在的論文，或把資料解讀成原文沒有說過的結論。
語氣肯定，不代表有證據
NIST 將這類現象稱為 confabulation，也指出它常被稱為 hallucination。問題包括錯誤內容、偏離輸入資料，或在同一脈絡中自相矛盾。假設 AI 列出一個看似完整的論文標題、作者與年份，卻查不到該文，便需要回到原始資料核對。
有搜尋與引用，仍要核對原文
大型語言模型能產生流暢的文字，但這不等於每個敘述都正確。AI 搜尋與檢索增強生成可讓回答參考外部資料，仍須確認來源是否可靠、引用是否真的支持該句話。錯誤來源與模型誤讀是兩個不同的檢查環節。
參考資料
最近查核：