新研究：AI讓醫生偵測癌症能力下降

(SeaPRwire) –   健康從業者、公司和其他人多年來一直稱讚AI在醫學領域的應用，從改善疾病診斷到在表現上超越醫生。AI愛好者甚至預測這項變革性技術有朝一日能幫助找到「癌症的治療方法」。

然而，一項新研究發現，經常使用AI的醫生在幾個月內實際變得不那麼熟練了。

這項研究於週三發表在《The Lancet》雜誌上，發現在六個月的時間裡，臨床醫生過度依賴AI的建議，以至於他們在沒有AI輔助的情況下進行認知決策時，「變得不那麼有動力、不那麼專注、也不那麼負責」。

這是最新一項證明AI用戶可能產生不良結果的研究。麻省理工學院(Massachusetts Institute of Technology)先前的一項研究發現，ChatGPT會讓員工效率降低。

研究如何進行

歐洲各機構的研究人員進行了一項觀察性研究，調查了波蘭的四個內視鏡中心，這些中心參與了「人工智慧在結腸鏡檢查中用於癌症預防 (Artificial Intelligence in Colonoscopy for Cancer Prevention, AICCAP) 試驗」。該研究由歐盟委員會(European Commission)和日本學術振興會(Japan Society for the Promotion of Science)資助。

作為試驗的一部分，這些中心於2021年末引入了AI工具，用於檢測息肉——這種生長物可以是良性或惡性的。這項研究觀察了在2021年9月至2022年3月期間進行的共2,177次結腸鏡檢查中的1,443次無AI輔助的結腸鏡檢查。這些結腸鏡檢查由19位經驗豐富的內視鏡醫師執行。

研究人員比較了AI實施前後三個月的結腸鏡檢查品質。結腸鏡檢查是隨機在AI輔助或無AI輔助下進行的。在無AI輔助的檢查中，795次是在常規AI使用實施前進行的，648次是在AI工具引入後進行的。

研究發現了什麼

在AI引入前三個月，腺瘤檢測率（ADR）約為28%。在AI引入後三個月，當臨床醫生沒有AI輔助時，該比率下降到22%。ADR是結腸鏡檢查常用的一個品質指標，定義為「由醫師進行的篩檢性結腸鏡檢查中，至少檢測到一個經組織學證實的結直腸腺瘤或腺癌的比例」。腺瘤是癌前病變，ADR越高，結直腸癌的風險越低。

研究發現，當使用AI時，AI確實有助於內視鏡醫師進行檢測，但一旦移除輔助，臨床醫師的檢測能力會變差。

研究人員將此歸因於人類「過度依賴」AI等決策支援系統建議的自然傾向。

研究合著者、Medical University of Silesia助理教授Marcin Romańczyk告訴《TIME》雜誌：「想像一下，你想去任何地方旅行，卻無法使用Google Maps。我們稱之為Google Maps效應。我們試圖到達某個地方，卻無法使用普通地圖。它的運作方式非常相似。」

研究的影響

Omer Ahmad是University College Hospital London的顧問胃腸病學家，他為該研究撰寫了一篇社論但未參與其研究，他告訴《TIME》雜誌，接觸AI很可能會削弱醫生在視覺搜尋習慣和警覺凝視模式方面的能力，而這些對於檢測息肉至關重要。

Ahmad表示：「本質上，對AI檢測的依賴可能會鈍化人類的模式識別能力。」他補充說，在取消AI輔助時，經常使用AI也可能「降低診斷信心」，或者內視鏡醫師操作結腸鏡的技能可能會下降。

在向SMC發表的評論中，University of Hertfordshire’s Department of Computer Science的首席講師Catherine Menon表示：「儘管先前研究中已提出因使用AI導致技能退化的理論風險，但這項研究首次呈現了可能確實表明AI在診斷性結腸鏡檢查中使用導致技能退化的真實世界數據。」Menon對過度依賴AI可能使健康從業者面臨技術妥協的風險表示擔憂。

其他專家對僅從一項研究中得出結論更加謹慎。

Queen Mary University of London臨床AI和機器學習教授Venet Osmani向SMC指出，在研究過程中，結腸鏡檢查的總數——包括AI輔助和非AI輔助的——有所增加。Osmani建議，增加的工作量可能導致臨床醫生疲勞和較差的檢測率。

Brunel University of London人工智慧教授Allan Tucker也指出，在AI輔助下，臨床醫生的整體表現有所提高。Tucker補充對SMC表示，對於因自動化偏見導致技能退化的擔憂「並非AI系統獨有，而是引入任何新技術的風險」。

Tucker表示：「這不僅僅是關於監測技術，」他補充說：「而是關於駕馭新的人機臨床生態系統的複雜性。」他認為，建立保障措施至關重要，並建議除了這項研究之外，人們可能需要專注於「在AI無處不在的世界中，如何保留基本技能」。