盡管醫(yī)療領(lǐng)域的人工智能顯示出巨大的前景，但隨著AI工具展現(xiàn)出可能的有害結(jié)果，全球監(jiān)管機(jī)構(gòu)面臨的壓力正在加大。
在一種藥物獲得美國食品和藥物管理局（FDA）批準(zhǔn)之前，它必須證明其安全性和有效性。然而，F(xiàn)DA并不要求理解藥物作用機(jī)制以獲得批準(zhǔn)。這種接受未解釋結(jié)果的做法引發(fā)了一個(gè)問題，即一個(gè)安全有效的人工智能模型的“黑箱”決策過程是否必須完全解釋清楚，才能獲得FDA的批準(zhǔn)。
這個(gè)話題是12月4日星期一在麻省理工學(xué)院阿卜杜勒·拉提夫·賈米爾機(jī)器學(xué)習(xí)與健康診所（賈米爾診所）舉辦的AI與健康監(jiān)管政策會議上討論的諸多議題之一，該會議激發(fā)了來自美國、歐盟和尼日利亞的監(jiān)管機(jī)構(gòu)，以及業(yè)內(nèi)專家之間關(guān)于醫(yī)療領(lǐng)域AI監(jiān)管的一系列討論和辯論。
隨著機(jī)器學(xué)習(xí)的快速發(fā)展，監(jiān)管機(jī)構(gòu)是否能跟上并減少有害影響的可能性，同時(shí)確保各自國家在創(chuàng)新方面保持競爭力，這仍然是一個(gè)不確定的問題。為了促進(jìn)坦率和公開的討論環(huán)境，賈米爾診所活動(dòng)的出席人數(shù)被精心策劃，僅限100名與會者，他們通過執(zhí)行查塔姆宮規(guī)則進(jìn)行辯論，以允許發(fā)言者在不被識別的情況下討論有爭議的觀點(diǎn)和論點(diǎn)。
賈米爾診所舉辦的活動(dòng)不是為了圍繞醫(yī)療領(lǐng)域的AI制造熱點(diǎn)，而是為了創(chuàng)建一個(gè)空間，讓監(jiān)管機(jī)構(gòu)了解AI最前沿的進(jìn)展，同時(shí)允許學(xué)院和業(yè)界專家提出醫(yī)療領(lǐng)域AI監(jiān)管框架的新方法或不同方法，特別是在臨床設(shè)置和藥物開發(fā)中使用AI。
在后疫情時(shí)代勞動(dòng)力短缺、成本增加（“并非薪酬問題，盡管普遍認(rèn)為如此，”一位發(fā)言者說），以及衛(wèi)生保健專業(yè)人員的高離職率和倦怠情緒下，人工智能在醫(yī)學(xué)中的作用比以往任何時(shí)候都更為重要。一位發(fā)言者建議，臨床AI部署的重點(diǎn)應(yīng)更多地放在操作工具上，而不是病人診斷和治療上。
一位與會者指出，“所有相關(guān)方——不僅僅是開發(fā)者社區(qū)和醫(yī)療保健系統(tǒng)，還包括患者和監(jiān)管機(jī)構(gòu)——都明顯缺乏教育?！辫b于醫(yī)生通常是臨床AI工具的主要使用者，許多出席的醫(yī)生懇求監(jiān)管機(jī)構(gòu)在采取行動(dòng)之前咨詢他們。
數(shù)據(jù)可用性是出席的大多數(shù)AI研究人員的一個(gè)關(guān)鍵問題。他們哀嘆缺乏有效運(yùn)作其AI工具的數(shù)據(jù)。許多人面臨著知識產(chǎn)權(quán)限制訪問或僅僅是大型高質(zhì)量數(shù)據(jù)集稀缺的障礙?！伴_發(fā)者無法花費(fèi)數(shù)十億創(chuàng)造數(shù)據(jù)，但FDA可以，”一位發(fā)言者在活動(dòng)中指出。“存在價(jià)格不確定性可能導(dǎo)致對AI的投資不足。”來自歐盟的發(fā)言者宣稱正在開發(fā)一套強(qiáng)制政府向AI研究人員提供健康數(shù)據(jù)的系統(tǒng)。
在為期一天的活動(dòng)結(jié)束時(shí)，許多與會者建議延長討論，并贊揚(yáng)了精心策劃和封閉環(huán)境，這創(chuàng)造了一個(gè)有利于開放和富有成效的醫(yī)療AI監(jiān)管討論的獨(dú)特空間。一旦未來的后續(xù)活動(dòng)得到確認(rèn)，賈米爾診所將開發(fā)類似性質(zhì)的額外研討會，以保持動(dòng)力并讓監(jiān)管機(jī)構(gòu)了解該領(lǐng)域的最新發(fā)展。
“任何監(jiān)管系統(tǒng)的北極星都是安全，”一位與會者承認(rèn)?！耙磺卸际菑倪@個(gè)思想開始，然后順流而下?！?/span>
Copyright ? 2022 上?？评讜狗?wù)有限公司 旗下「智慧醫(yī)療網(wǎng)」版權(quán)所有 ICP備案號：滬ICP備17004559號-5
