以監管科學研究推動人工智能醫療器械創新發展
近年來,人工智能技術在醫療器械領域的應用快速擴大,在改變診斷和治療方式的同時,也帶來安全風險,給監管帶來挑戰。
人工智能技術存在倫理、偏見、數字安全等風險,人工智能醫療器械因其特殊的應用場景,還存在操作、迭代、透明度等額外安全風險。此外,人工智能醫療器械在責任界定、法律地位等方面還存在監管空白,極大影響了人工智能醫療器械行業發展和產品的臨床應用。
2019年以來,全球各大醫療器械市場的監管部門紛紛基于監管科學研究,加大對人工智能醫療器械的管理力度。其中,美國、歐盟提出多項監管策略并在實踐中應用,取得了一些成果;我國對人工智能醫用軟件、人工智能醫療器械中的計算機學習建模等制定技術指南,積極開展人工智醫療器械審評與監管改革工作。
美國:在控制風險的同時鼓勵創新
美國食品藥品管理局(FDA)積極推動人工智能醫療器械監管創新。目前,FDA正在試圖建立更靈活和高效的預認證程序,以加快對人工智能醫療器械的評估和審批;同時,加強對已上市人工智能醫療器械的持續監管,確保其使用過程中的安全性和有效性。
FDA對醫療器械的基本監管策略是在確?;颊甙踩耐瑫r鼓勵創新?;诖耍現DA實行上市前批準(PMA)和510(k)清除程序,以確保醫療器械的安全性和有效性。同時,FDA提供創新途徑,如突破性器械計劃就是鼓勵醫療器械技術創新的途徑。目前,FDA已經批準一些使用人工智能技術的醫療器械上市,涉及多種臨床應用場景,如疾病診斷、病情評估、個性化治療等。
面對人工智能技術帶來的監管挑戰,FDA建立了人工智能醫療器械監管框架。2019年,FDA發布涉及人工智能醫療器械監管的藍皮書,提出一種預定型監管框架,即對人工智能醫療器械的持續學習和自我改進能力進行監管。根據該框架,制造商需要提交算法更改計劃,說明如何實施預定的修改,并在實施修改時保持醫療器械的安全性和有效性。同時,FDA正在加強對人工智能訓練數據的監管。人工智能的訓練數據質量對相應醫療器械性能影響重大,FDA提出,制造商需要提供足夠的信息,以證明訓練數據的質量和代表性,以及數據收集和處理過程。這對于確保人工智能醫療器械在實際臨床環境中的安全性和有效性至關重要。
考慮到人工智能技術的特殊性,FDA還提出了針對人工智能醫療器械的特別監管要求。人工智能算法通常具有自我學習和自我改進能力,使得人工智能醫療器械可能會在上市后發生改變,因此FDA強調對產品上市后性能進行持續監測和管理;人工智能系統的決策過程有時缺乏透明度,可能導致患者和醫生無法理解其決策依據,因此FDA強調人工智能醫療器械的透明度和可解釋性。
目前,FDA面臨的主要挑戰之一是如何適應人工智能技術的快速發展。全球性對話和合作既可以避免重復工作,還可以達到更好的監管一致性,FDA在人工智能醫療器械全球監管協同方面作出積極努力。例如,FDA是國際醫療器械監管機構論壇(IMDRF)成員,IMDRF正在研究人工智能技術在醫療器械領域的應用,并提出相關監管建議。
隨著人工智能技術的進步和醫療器械的快速創新,FDA的監管策略和框架將持續發展和調整。一個可能的發展方向是更加積極地利用數字健康技術進行監管,例如使用真實世界數據開展醫療器械性能實時監測和評估。此外,FDA還可能更注重對人工智能訓練數據以及醫療器械透明度和可解釋性的監管。
總體來說,FDA對人工智能醫療器械的監管是一個動態的風險控制與創新的平衡過程,努力控制各種安全風險;同時,盡可能鼓勵創新,從而適應人工智能醫療器械技術和市場發展。
歐盟:強調數據保護和算法透明性
在歐洲,醫療器械及其所涵蓋技術受到嚴格監管。歐盟全方位審查和監控人工智能醫療器械設計、制造、銷售和使用,特別關注醫療數據保護,積極推動人工智能醫療器械標準化,提高其互操作性和可用性。
歐盟的醫療器械監管基于一系列法規,其中最重要的是醫療器械法規(MDR)和體外診斷醫療器械法規(IVDR)。這些法規對醫療器械安全性和性能提出了詳細要求,包括產品設計、制造、臨床評估、質量管理等。人工智能醫療器械作為軟件或系統,通常被歸類為“軟件醫療器械”,在MDR和IVDR中有明確規定。根據相關規定,人工智能醫療器械應滿足包括數據保護、算法驗證、性能評估等在內的一系列要求。
在歐盟,人工智能醫療器械的監管強度根據產品風險級別不同而不同。根據MDR和IVDR,醫療器械風險從低到高分為四個等級,分別為Ⅰ、Ⅱa、Ⅱb和Ⅲ。人工智能醫療器械風險等級取決于預期用途和可能產生的風險。例如,如果人工智能醫療器械被用于診斷或治療重大疾病,則可能被分類為較高風險等級。高風險等級的醫療器械需要經過更嚴格的審查才能上市,包括通過被歐盟認證的獨立機構(稱為公認機構)進行的臨床評估。
歐盟對人工智能醫療器械的審批流程包括技術文件編制、臨床評估、質量管理系統評審等步驟。制造商需要提供詳細的信息,證明產品的安全性和性能,包括設計和制造信息、臨床評價數據、風險管理措施等。在審批過程中,公認機構會評估制造商提供的所有信息,如果評審結果為“滿意”,將頒發CE標志證書,表示該醫療器械符合歐盟法規要求,可以在歐盟市場銷售。
在歐盟監管框架中,人工智能醫療器械的數據保護和算法透明性受到特別關注。歐盟的一般數據保護法規(GDPR)對處理個人數據提出了嚴格要求,對人工智能醫療器械的開發和應用產生了重要影響。此外,制造商需要提供足夠的信息,以說明其人工智能系統的決策過程,使用戶和監管部門可以理解和驗證算法的性能和結果。這在保護用戶權益、提高算法公平性和可信賴性方面起著關鍵作用。
面對人工智能技術的快速發展,歐盟正在調整和更新其醫療器械監管框架。2021年,歐盟發布了人工智能法規草案,旨在建立“人本主義”的人工智能監管框架,強調對高風險人工智能系統的監管。此外,歐盟還在考慮建立專門針對人工智能醫療器械的監管路徑,以適應產品特點和監管挑戰。
歐盟在人工智能醫療器械領域的監管措施反映了其對公眾健康和數據安全的重視,也體現出支持創新和技術進步的態度。
中國:積極探索和推進監管改革
近年來,我國藥監部門積極探索和推進人工智能醫療器械監管改革,努力建立更公平、透明、靈活的監管框架。我國對人工智能醫療器械研發、生產、銷售和使用全過程實施監管,以確保產品安全性、有效性、質量可控性。此外,為加強醫療數據保護,我國還制定了詳細的醫療數據收集、使用和存儲規定。
2019年7月,人工智能醫療器械創新合作平臺成立,旨在促進人工智能醫療器械監管研究;國家藥監局醫療器械技術審評中心在全球率先發布《深度學習輔助決策醫療器械軟件審評要點》,明確人工智能醫療器械審評關注重點,引發國際廣泛關注。2020年以來,我國加大力度開展人工智能醫療器械監管研究,積極參與IMDRF人工智能醫療器械工作組、國際電信聯盟/世界衛生組織醫學人工智能焦點組等國際監管協調工作;制定和發布多項相關指導原則、審評要點和行業標準,批準20余項第三類深度學習輔助決策類獨立軟件產品上市。
建議:持續更新監管策略和手段
建議根據我國情況并參考國際經驗,從以下幾方面強化人工智能醫療器械監管,在保障公眾用械安全的同時鼓勵創新。
建立專門針對人工智能醫療器械的監管框架。人工智能技術在醫療器械領域的應用對傳統的醫療器械監管體系提出了巨大挑戰。人工智能醫療器械與傳統醫療器械具有顯著區別,尤其體現在持續學習和適應能力上,因此需要建立適應人工智能醫療器械特性的監管框架??蓞⒖細W盟和美國對高風險人工智能系統的分類和監管策略,制定我國人工智能醫療器械風險評估方法和分類標準,對不同風險級別的產品制定不同的監管策略?,F階段,建議繼續推進重點產品相關技術指導原則和審評要點的制修訂工作,緊跟人工智能醫療器械發展趨勢,不斷建立健全技術指導原則體系。
實施適應性監管。人工智能技術發展迅速,監管政策需要及時應對技術變化。監管部門可以采取適應性監管策略,如預見性監管和沙箱試驗等,在保障公眾用械安全的同時鼓勵技術創新。
強化數據保護和算法透明度。數據安全和隱私保護是人工智能醫療器械監管的重要方面,應確保產品在收集和使用患者數據時遵循嚴格的數據保護規定。同時,人工智能系統的決策過程應該透明,以便醫務人員、患者和監管人員理解和產生信任,這不僅有助于保障人工智能醫療器械質量安全,還可以提高產品公信力。
鼓勵合作和標準制定。與行業、科研機構以及其他國家和地區監管機構建立廣泛的合作關系,是推動我國人工智能醫療器械監管發展的途徑之一。這種合作可以促進分享實踐經驗,發展和推廣技術和標準,以及制定全球通用的監管策略。
提升科學監管能力。鑒于人工智能技術的復雜性和快速發展的現狀,監管部門需要持續提升自身技術能力,這樣才能有效應對人工智能醫療器械監管挑戰。這需要加強監管科學研究,加強人才引進和培養,并與科研機構和行業建立緊密的合作關系。
加強產品上市后監管和監測。人工智能醫療器械上市后可不斷學習和改進,監管部門需加強產品上市后監管。一方面,可以通過定期審查和評估,確保人工智能醫療器械的持續安全性和有效性;另一方面,通過上市后監測,可以快速發現和應對潛在風險。此外,建議充分利用真實世界數據,客觀評價人工智能醫療器械的算法泛化能力,助力實現產品全生命周期閉環監管。
鼓勵用戶教育和培訓。人工智能醫療器械的正確使用對保證其安全性和有效性至關重要,應鼓勵制造商提供適當的用戶培訓和教育,以確保使用者正確理解和使用產品。
建立倫理和社會影響評估機制。人工智能醫療器械可能帶來一系列倫理和社會問題,如數據隱私、算法偏見和人機責任等,監管部門應建立倫理和社會影響評估機制,識別、討論和處理上述問題。
(作者單位:四川大學醫療器械監管科學研究院)
(責任編輯:丁凌)
右鍵點擊另存二維碼!
互聯網新聞信息服務許可證10120170033
網絡出版服務許可證(京)字082號
?京公網安備 11010802023089號 京ICP備17013160號-1
《中國醫藥報》社有限公司 中國食品藥品網版權所有