科技日報記者?張夢然
醫(yī)療人工智能（AI）最受“吹捧”的承諾之一，就是它們能夠幫助人類臨床醫(yī)生更精確地解讀X光和CT掃描等圖像，從而作出更準(zhǔn)確的診斷報告，增強影像科醫(yī)生的表現(xiàn)。
肺部腫塊的胸部X光檢查。這種圖像被用來訓(xùn)練AI模型檢測和診斷疾病。
圖片來源：美國國立衛(wèi)生研究院臨床中心
但實際情況確實如此嗎？
美國哈佛大學(xué)醫(yī)學(xué)院、麻省理工學(xué)院和斯坦福大學(xué)的合作研究表明，使用AI工具進行圖像解讀的效果，似乎因臨床醫(yī)生而異。
換句話說，有益還是無用，現(xiàn)階段還是人類說了算。因為研究結(jié)果表明，個體臨床醫(yī)生的差異，會以AI專家們尚未完全理解的關(guān)鍵方式影響著人與機器之間的互動。該分析近日發(fā)表在《自然·醫(yī)學(xué)》雜志上。
考慮醫(yī)生個人因素
研究表明，在某些情況下，AI的使用可能會干擾放射科醫(yī)生的表現(xiàn)，并影響他們解釋的準(zhǔn)確性。
圖片來源：美國國家醫(yī)學(xué)院官網(wǎng)
雖然之前的研究表明，AI助手確實可以提高醫(yī)生的診斷表現(xiàn)，但這些研究將醫(yī)生視為一個整體，而沒有考慮不同醫(yī)生之間的差異。在臨床上，每一位醫(yī)生的判斷，對患者來說都是100%的。
相比之下，這項新研究著眼于臨床醫(yī)生的個人因素——專業(yè)領(lǐng)域、實踐年限、之前使用AI工具的經(jīng)驗，并分析這些因素如何在人機協(xié)作中發(fā)揮作用。
研究人員分析了AI如何影響140名放射科醫(yī)生在15項X射線診斷任務(wù)中的表現(xiàn)，即醫(yī)生需要可靠地發(fā)現(xiàn)圖像上的明顯特征并作出準(zhǔn)確診斷。該分析涉及324名罹患15種病癥的患者病例。
為了確定AI如何影響醫(yī)生發(fā)現(xiàn)和正確識別問題的能力，研究人員使用先進的計算方法來獲取使用AI和不使用AI時的表現(xiàn)變化。
結(jié)果顯示，AI輔助的效果在放射科醫(yī)生之間不一致且各不相同，一些放射科醫(yī)生的表現(xiàn)因AI而提高，而另一些醫(yī)生的表現(xiàn)則“惡化”。
英國皇家醫(yī)學(xué)院布拉瓦尼克研究所生物醫(yī)學(xué)信息學(xué)助理教授帕蘭納福·拉普科爾確認(rèn)了研究團隊這一發(fā)現(xiàn)，并表示“我們不應(yīng)該將醫(yī)生視為一個統(tǒng)一的群體，只考慮AI對其表現(xiàn)的‘平均’影響”。
不過，這一發(fā)現(xiàn)并不意味著應(yīng)該阻止醫(yī)生和診所采用AI。相反，結(jié)果表明需要更好地了解人類和AI如何互動，并設(shè)計精心校準(zhǔn)的方法來提高而不是損害人類的表現(xiàn)。
AI“助手”尚難預(yù)測
鑒于影像科被認(rèn)為是能得到AI最大助力的臨床醫(yī)學(xué)領(lǐng)域，本次研究結(jié)果頗具代表意義。
此次發(fā)現(xiàn)中值得注意的是，在放射科，AI以令人驚訝的方式產(chǎn)生著影響人類醫(yī)生的表現(xiàn)。
例如，與研究人員預(yù)期相反，放射科醫(yī)生有多少年的經(jīng)驗、他們是否專門從事胸部放射科，以及他們之前是否使用過AI設(shè)備等因素，并不能可靠地預(yù)測AI工具對他們工作表現(xiàn)的影響。
另一項挑戰(zhàn)普遍觀點的發(fā)現(xiàn)是：基線表現(xiàn)不佳的臨床醫(yī)生，并不能持續(xù)穩(wěn)定地從AI中得到幫助?？傮w而言，無論有或沒有AI，基線表現(xiàn)較低的放射科醫(yī)生的表現(xiàn)還是較低。對于基線表現(xiàn)較好的放射科醫(yī)生來說也是如此——無論有沒有AI，他們的總體表現(xiàn)始終良好。
但可以肯定的是，更準(zhǔn)確的AI提高了放射科醫(yī)生的表現(xiàn)，而水平一般的AI則會降低人類臨床醫(yī)生的診斷準(zhǔn)確性。
這一發(fā)現(xiàn)的重要意義也在于：在臨床部署之前，必須測試和驗證AI工具的性能，以確保劣質(zhì)AI不會干擾人類臨床醫(yī)生的判斷，從而延誤患者病情。
影響臨床醫(yī)學(xué)未來
臨床醫(yī)生擁有不同水平的專業(yè)知識、經(jīng)驗和決策風(fēng)格，因此確保AI能反映這種多樣性，對于有針對性地實施治療至關(guān)重要。個體因素及變化，應(yīng)成為確保AI進步的關(guān)鍵，而不是干擾并最終影響診斷的因素。
有意思的是，這一發(fā)現(xiàn)并沒有解釋AI為何會對人類臨床醫(yī)生的表現(xiàn)產(chǎn)生不同的影響，但隨著AI對臨床醫(yī)學(xué)的影響越來越深遠(yuǎn)，理解其中原因就顯得至關(guān)重要。關(guān)于這一點，AI專家依然在努力。
研究團隊補充說，下一步，放射科醫(yī)生與AI的交互，應(yīng)該在模擬現(xiàn)實場景的實驗環(huán)境中展開測試，測試結(jié)果需要反映實際患者群體的情況。而除了提高AI工具的準(zhǔn)確性之外，培訓(xùn)放射科醫(yī)生去及時檢測不準(zhǔn)確的AI、審查并質(zhì)疑AI工具的診斷，也很重要。
換言之，在AI幫你之前，你需要先提高自身。
