亞洲健康互聯
優化產業的推手,生醫商機的GPS!

首頁產業資訊醫材報導醫材產業降低基於人工智能和機器學習的醫療技術風險

降低基於人工智能和機器學習的醫療技術風險

來源 : 亞洲健康互聯海外中心
update : 2019/12/09

人工智能和機器學習日益改變醫療行業。從發現惡性腫瘤到讀取CT掃描和乳房攝影圖片,基於人工智能和機器學習的技術,比傳統設備,甚至是最好的醫生,都更快、更準確,但是,隨之而來的是新的風險和監管挑戰。

126日在《科學》雜誌上,一篇題為「 醫藥監管鎖定的演算法 」的文章中,歐洲工商管理學院決策科學助理教授鮑里斯·巴比奇、決策科學暨技術管理教授西奧多羅斯·葉夫根尼歐、哈佛大學法學院薩拉·格克,以及哈佛大學法學院教授格倫·科恩,共同深入討論了監管機構因應人工智能和機器學習陌生途徑的新挑戰。

在文章中,共同研究的學者們探討了以下問題:在開發和實施人工智能和機器學習設備時,面臨了哪些新風險?應該如何管理它們?監管機構需要關注哪些因素,才能確保以最小的風險實現最大價值?

到目前為止,美國食品暨藥品監督管理局(FDA)等監管機構,已批准具有「鎖定演算法」的醫學人工智能和機器學習軟體-即每次提供相同結果且不會隨使用而改變的演算法。但是,大多數人工智能和機器學習技術的主要和潛在優勢,來自其隨著模型對新數據的學習而發展的能力。由於人工智能和機器學習而使這些「自適應演算法」成為可能,從而創建了本質上是學習型醫療保健系統的系統,其中研究與實踐之間的界限有許多漏洞。

鑑於此自適應系統的巨大價值,當今的監管者面臨的一個基本問題是,核批是否應僅限於已提交並評估為安全有效的技術版本?或者允許在更大價值的情況下,營銷從該技術的學習能力和適應新條件中找到的演算法?

作者深入研究了與此更新問題相關的風險,並考慮了需要重點關注的特定領域,以及解決挑戰的方式。

他們說,強而有力的監管關鍵是要優先進行持續的風險監測。

這組作者說:「為了管理風險,監管者應該特別關注持續監控和風險評估,而不是計劃將來的演算法變更。」

隨著監管機構的向前發展,作者們建議監管機構開發新的流程,以持續監控、識別和管理相關風險。他們建議了可能有助於此目的的關鍵元素,並且將來可能會使用人工智能和機器學習將它們自動進行自動化-可能會使人工智能和機器學習系統互相監視。

儘管本文主要藉鑑了FDA在監管生物醫學技術方面的經驗,但這些教訓和實例具有廣泛的相關性,因為其他國家正在考慮如何塑造其相關的監管體系。對於任何開發人工智能和機器學習嵌入式產品和服務的業務,從汽車到保險、金融、能源,以及越來越多的其他業務,也都非常重要且相關。所有組織的管理人員都需要從當今的監管者的角度,了解如何管理新的人工智能和機器學習風險。

這組作者警告說:「我們的目標是強調醫療人工智能和機器學習系統如何做出反應,或適應環境的意外變化可能帶來的風險。通常無法識別的參數更新或新型數據,可能會導致大且代價高昂的錯誤。」