AI 幻覺(醫療情境)
AI Hallucination in Healthcare
生成式 AI 編造看似合理卻不實的內容;在醫療情境常見三子型:捏造文獻、錯誤藥物交互、與臨床指引不符。
醫療幻覺的危害高於一般情境,因錯誤資訊可能影響用藥與處置。goalkeeper 的幻覺查核分三子型:①捏造文獻(以 PubMed+Crossref 交叉比對抓假 DOI)②錯誤藥物交互(openFDA 仿單+RxNorm 藥名正規化)③與臨床指引不符。
幻覺查核的瓶頸常在「授權與資料可得性」而非模型能力,因此對授權未明、循證假陽性高的領域,務實定位是「降為 warning、要人工複核」,而非自動判 fail。
重點
- 三子型:文獻/藥物交互/臨床指引
- 文獻可判 fail;藥物與指引多回 warning
- 瓶頸在資料授權,不在模型