goalkeeper · yao.care

AI 幻覺(醫療情境)

AI Hallucination in Healthcare

生成式 AI 編造看似合理卻不實的內容;在醫療情境常見三子型:捏造文獻、錯誤藥物交互、與臨床指引不符。

醫療幻覺的危害高於一般情境,因錯誤資訊可能影響用藥與處置。goalkeeper 的幻覺查核分三子型:①捏造文獻(以 PubMed+Crossref 交叉比對抓假 DOI)②錯誤藥物交互(openFDA 仿單+RxNorm 藥名正規化)③與臨床指引不符。

幻覺查核的瓶頸常在「授權與資料可得性」而非模型能力,因此對授權未明、循證假陽性高的領域,務實定位是「降為 warning、要人工複核」,而非自動判 fail。

重點

相關指南

← 回名詞解釋總覽