goalkeeper · yao.care

AI 幻覺(醫療情境)

AI Hallucination in Healthcare

生成式 AI 編造看似合理卻不實的內容;在醫療情境常見三子型:捏造文獻、錯誤藥物交互、與臨床指引不符。

醫療幻覺的危害高於一般情境,錯誤資訊可能直接影響用藥與處置。goalkeeper 的幻覺查核分三個子型:捏造文獻(以 PubMed 加 Crossref 交叉比對抓假 DOI)、錯誤藥物交互(openFDA 仿單加 RxNorm 藥名正規化)、與臨床指引不符。

卡住這道檢查的多半是外部資料的授權與可得性,不是模型判斷力。學會的臨床指引語料通常「免費下載」但不等於可商用或可再散布,台灣的中文期刊也大量沒有 DOI。所以對授權未明、假陽性又高的領域,務實的定位是降為 warning 要人工複核,不直接判 fail。

重點

相關指南

← 回名詞解釋總覽