2024年10月14日 星期一

AI給的答案別輕信 22%的醫療建議回答可能致命

 

最新的研究結果顯示,AI於提供醫療建議時存在較大的安全隱憂。

德國與比利時的研究人員對微軟Bing Copilot進行了測試,該引擎能夠回答美國最常見的10個醫療問題及50種最常用藥物的相關問題。

於生成的500個答案中,24%的回答與現有醫學知識不符,3%的回答完全錯誤。

更嚴重的是,42%的回答可能對病者造成中度或輕度傷害,而22%的回答可能導致死亡或嚴重傷害,只有36%的回答被認為是無害的。

研究亦發現,AI答案的平均完整性得分為77%,最差的答案僅23%完整。於準確性方面,AI答案有26%與參考資料不符,超過3%的回答完全不一致。

此外,只有54%的答案與科學共識一致,39%的答案與之相左。

相關研究結果已發表在《BMJ Quality & Safety》期刊上,研究人員指出,儘管AI技術有潛力,但患者仍應諮詢醫療專業人員以獲得準確及安全的藥物資訊。

訊息來源

沒有留言: