近日,國家互聯(lián)網(wǎng)信息辦公室起草的《人工智能擬人化互動服務管理暫行辦法(征求意見稿)》公開向社會征求意見。在人工智能(AI)深度融入醫(yī)療領域的當下,征求意見稿通過建立身份透明、風險防控、彈性監(jiān)管等制度體系,將為推動AI醫(yī)療健康規(guī)范發(fā)展提供重要指引。
錨定健康價值導向
征求意見稿立足AI技術應用的健康價值導向,通過系統(tǒng)性制度設計錨定了擬人化互動服務“助力人類健康”的核心定位。這一導向與醫(yī)療領域的公益屬性高度契合,為AI醫(yī)療發(fā)展確立了價值坐標。
具體條款體現(xiàn)了“正向賦能健康+反向規(guī)避傷害”的雙重規(guī)制邏輯:禁止通過情感操控、鼓勵自殘等方式損害用戶身心健康;要求服務提供者具備心理健康保護與依賴風險預警能力;強制推行AI身份顯著提示。在醫(yī)療場景中,無論是智能問診系統(tǒng)的健康咨詢、心理疏導AI的情緒干預,還是康復陪伴機器人的輔助護理,都必須以促進患者健康為前提,不得偏離醫(yī)療服務的核心目標。通過交互界面持續(xù)標注“AI服務”、明確告知服務功能邊界等要求,既能保障患者知情權(quán),避免其將AI等同于專業(yè)醫(yī)療主體,又能確保AI始終作為提升醫(yī)療服務效率、拓寬健康服務覆蓋面的輔助力量,助力構(gòu)建“技術賦能+人文醫(yī)療”的協(xié)同格局。
在醫(yī)療場景中,AI通過分析患者診療數(shù)據(jù)、情緒反饋形成個性化交互策略,若缺乏法律倫理約束,可能演變?yōu)椤扒楦胁倏亍惫ぞ?。征求意見稿要求AI不得誘導用戶作出不合理決策,對應到醫(yī)療領域,即禁止基于患者心理脆弱狀態(tài)(如癌癥患者的焦慮情緒)推送特定治療方案或過度醫(yī)療建議,而應引導其尋求專業(yè)醫(yī)療幫助。這種對“情感計算”技術的規(guī)范,可避免AI利用信息不對稱影響患者決策,守護醫(yī)療決策中人類主體的核心地位。
構(gòu)建雙重保障機制
征求意見稿明確的禁止AI鼓勵自殺自殘、實施情感操控,以及“提供者應當建立應急響應機制,發(fā)現(xiàn)用戶明確提出實施自殺、自殘等極端情境時,由人工接管對話”等內(nèi)容,對精神衛(wèi)生領域具有直接指導意義。這種嚴格規(guī)范既發(fā)揮AI在初步篩查、情緒安撫中的效率優(yōu)勢,又為人類專業(yè)干預保留介入空間,構(gòu)建起“技術賦能+人文關懷”的雙重保障機制。
例如,從抑郁癥患者的情緒日志到腫瘤患者的治療心理變化,均屬于征求意見稿重點保護的“情感類個人信息”。征求意見稿要求對這類數(shù)據(jù)實施更嚴格的目的限制,明確除法律另有規(guī)定或權(quán)利人明確同意外,不得向第三方提供,也不得用于模型訓練。
心理疏導AI僅可將對話內(nèi)容用于提升服務質(zhì)量,禁止用于商業(yè)營銷或衍生開發(fā)。在技術層面,需采用隱私計算等手段實現(xiàn)“數(shù)據(jù)可用不可見”,如區(qū)域醫(yī)療平臺整合多家醫(yī)院的患者心理數(shù)據(jù)時,須進行去標識化處理。這種全鏈條保護是對患者人格尊嚴與隱私權(quán)的深度守護。
塑造AI良性發(fā)展生態(tài)
征求意見稿構(gòu)建的全鏈條治理模式,為AI醫(yī)療產(chǎn)業(yè)建立了可追溯的責任體系。在模型設計階段,研發(fā)團隊需通過科技倫理審查,明確排除“誘導醫(yī)療消費”“替代醫(yī)生決策”等不良目標,并加強訓練數(shù)據(jù)管理,以保障數(shù)據(jù)合規(guī)和數(shù)據(jù)質(zhì)量。
征求意見稿明確,國家堅持健康發(fā)展和依法治理相結(jié)合的原則,鼓勵擬人化互動服務創(chuàng)新發(fā)展,對擬人化互動服務實行包容審慎和分類分級監(jiān)管,防止濫用失控。在探索實踐中,需強調(diào)行業(yè)組織、醫(yī)療機構(gòu)、患者群體的協(xié)同參與,構(gòu)建起立體化治理網(wǎng)絡。行業(yè)協(xié)會可制定細分領域標準;醫(yī)療機構(gòu)引入AI醫(yī)療產(chǎn)品時須建立合規(guī)評估機制;患者可通過投訴渠道反饋AI服務中的倫理問題。
期待更契合醫(yī)療實踐
面對AI醫(yī)療發(fā)展的復雜挑戰(zhàn),建議在征求意見過程中充分吸納醫(yī)療行業(yè)、科技企業(yè)、法律界及公眾的合理訴求,進一步優(yōu)化政策設計。筆者認為,征求意見稿可在醫(yī)療場景適配性、條款落地性、部門協(xié)同及算法透明度等方面進行優(yōu)化。
一是補充醫(yī)療場景專屬條款。明確AI醫(yī)療擬人化互動服務的負面清單,嚴禁在沒有醫(yī)生監(jiān)督下模擬執(zhí)業(yè)醫(yī)師開展診斷、處方等核心醫(yī)療行為,細化“情感操控”在醫(yī)療場景中的具體表現(xiàn)形式;強化臨床驗證要求,規(guī)定AI醫(yī)療擬人化互動服務在投入使用前,須通過符合醫(yī)學倫理的安全性、可靠性測試,驗證其交互安全性、信息準確性及對診療決策的影響;補充AI醫(yī)療終止服務的特殊規(guī)則,要求提供者在終止服務前預留合理過渡期,妥善處置患者交互數(shù)據(jù)和健康記錄,并向用戶提供數(shù)據(jù)導出和轉(zhuǎn)移通道,保障患者健康權(quán)益的連續(xù)性。
二是制定配套技術標準與實操指引。出臺醫(yī)療領域?qū)嵤┘殑t,明確技術指標要求,如用戶極端情緒識別的準確率閾值、危機干預的響應時限、未成年人使用時長限制等具體標準,增強監(jiān)管的可操作性;規(guī)范合規(guī)審查流程,細化AI擬人化互動服務的合規(guī)審查范圍、內(nèi)容和標準,要求審查專家中必須包含臨床醫(yī)務人員、衛(wèi)生法學專家和患者代表;建立醫(yī)療情感數(shù)據(jù)的分級保護標準,根據(jù)數(shù)據(jù)敏感程度劃分保護等級,對涉及精神疾病、艾滋病等核心敏感數(shù)據(jù)實行更嚴格的加密存儲和訪問控制要求。
三是健全跨部門協(xié)同監(jiān)管機制。鑒于AI醫(yī)療監(jiān)管涉及網(wǎng)信、衛(wèi)生健康、藥監(jiān)、醫(yī)保、數(shù)據(jù)管理等多個部門,建議進一步明確跨部門協(xié)同監(jiān)管的具體路徑。建立聯(lián)席會議制度,由網(wǎng)信部門牽頭,統(tǒng)籌衛(wèi)生健康、藥監(jiān)、醫(yī)保等部門的監(jiān)管職責,協(xié)調(diào)解決跨領域協(xié)同監(jiān)管難題;構(gòu)建信息共享與聯(lián)合執(zhí)法機制,實現(xiàn)各部門在AI醫(yī)療產(chǎn)品備案、安全評估、風險處置等方面的信息互通,提高監(jiān)管效率;推動監(jiān)管資源下沉,依托基層衛(wèi)生健康監(jiān)管體系,加強對基層醫(yī)療衛(wèi)生機構(gòu)AI擬人化互動服務應用的指導與監(jiān)督,確保政策在基層落地見效。
特別聲明:智慧醫(yī)療網(wǎng)轉(zhuǎn)載其他網(wǎng)站內(nèi)容,出于傳遞更多信息而非盈利之目的,同時并不代表贊成其觀點或證實其描述,內(nèi)容僅供參考。版權(quán)歸原作者所有,若有侵權(quán),請聯(lián)系我們刪除。
凡來源注明智慧醫(yī)療網(wǎng)的內(nèi)容為智慧醫(yī)療網(wǎng)原創(chuàng),轉(zhuǎn)載需獲授權(quán)。
Copyright ? 2022 上??评讜狗沼邢薰?旗下「智慧醫(yī)療網(wǎng)」版權(quán)所有 ICP備案號:滬ICP備17004559號-5