一方面，大模型在醫(yī)療場(chǎng)景應(yīng)用需兼顧安全性與專(zhuān)業(yè)性，可通過(guò)數(shù)據(jù)清洗、標(biāo)注和驗(yàn)證等控制數(shù)據(jù)質(zhì)量；另一方面，大模型的計(jì)算需要大量的算力作為支撐，輕量化、本地化部署的大模型將成為重要發(fā)展方向。
2023年被很多人稱(chēng)為“醫(yī)療大模型的元年”，國(guó)內(nèi)外均有大量廠家將大語(yǔ)言模型應(yīng)用于醫(yī)療健康領(lǐng)域。據(jù)統(tǒng)計(jì)，截至2023年10月，我國(guó)累計(jì)公開(kāi)的大模型數(shù)量已經(jīng)達(dá)到238個(gè)，垂直類(lèi)大模型達(dá)到103個(gè)。而2-9月，我國(guó)發(fā)布的醫(yī)療大模型近50個(gè)，涉及智慧診療、醫(yī)療文本處理、藥物研發(fā)和學(xué)術(shù)科研等多個(gè)方面。醫(yī)療大模型是否能夠幫助臨床醫(yī)生和醫(yī)療機(jī)構(gòu)提升醫(yī)療質(zhì)量？2024年醫(yī)療大模型又將面對(duì)哪些困難？為探尋答案，CDSreport整理了相關(guān)資料。醫(yī)療大模型效果將逐步得到驗(yàn)證
2023年6月，四川大學(xué)華西醫(yī)院信息中心劉加林教授團(tuán)隊(duì)在醫(yī)學(xué)權(quán)威期刊Journal of Medical Internet Research上發(fā)表了研究文章“Utility of ChatGPT in Clinical Practice”，證明了ChatGPT在臨床多個(gè)環(huán)節(jié)為醫(yī)務(wù)人員提供了有效的診療決策支持。
ChatGPT在臨床實(shí)踐中的應(yīng)用研究顯示，基于大語(yǔ)言模型的人工智能ChatGPT在臨床實(shí)踐中展現(xiàn)出巨大的潛力，或?qū)氐赘淖儸F(xiàn)有的醫(yī)療模式。例如，在診斷方面，ChatGPT在常見(jiàn)病的正確診斷率高達(dá)93.3%。在臨床決策方面，再根據(jù)多個(gè)維度比較了36個(gè)病例的鑒別診斷、診斷測(cè)試、最終診斷和處理的準(zhǔn)確性后，ChatGPT的總體準(zhǔn)確率達(dá)到了71.7%（95% CI，69.3%~74.1%）。此外，ChatGPT還可用于癌癥篩查和優(yōu)化臨床決策支持系統(tǒng)，為醫(yī)生提供重要的輔助信息。在回答醫(yī)學(xué)問(wèn)題方面，ChatGPT也展現(xiàn)出了強(qiáng)大的能力。例如，在視網(wǎng)膜疾病、產(chǎn)科和婦科、肝臟疾病以及癌癥等領(lǐng)域提供準(zhǔn)確和有用的信息；可用于生成醫(yī)學(xué)文件，如患者醫(yī)療報(bào)告、放射學(xué)報(bào)告和醫(yī)療記錄等。這些文件在準(zhǔn)確性、人性化和可讀性方面得到了良好的評(píng)價(jià)，為醫(yī)療實(shí)踐提供了重要的支持。對(duì)于大模型在醫(yī)療健康領(lǐng)域的應(yīng)用，此前中國(guó)信通院云大所副所長(zhǎng)閔棟提出了9個(gè)應(yīng)用場(chǎng)景，包括輔助決策、治療方案生成和質(zhì)量控制等。劉加林團(tuán)隊(duì)的研究已經(jīng)證明了大模型在輔助決策方面發(fā)揮了作用，還有許多大模型在問(wèn)診、影像鑒別等方面取得了不錯(cuò)的準(zhǔn)確度，但在其他多個(gè)應(yīng)用場(chǎng)景中，醫(yī)療大模型的應(yīng)用效果仍需進(jìn)一步研究。閔棟近日發(fā)文表示，目前我國(guó)醫(yī)療大模型產(chǎn)業(yè)仍在發(fā)展早期，且大多廠商對(duì)標(biāo)ChatGPT同步發(fā)展，處于跟進(jìn)復(fù)刻的階段，創(chuàng)新性總體偏弱。當(dāng)國(guó)內(nèi)大模型技術(shù)積累達(dá)到一定階段，不同應(yīng)用定位的模型優(yōu)勢(shì)將會(huì)在產(chǎn)業(yè)中顯現(xiàn)出來(lái)，呈現(xiàn)出差異化，這也是大模型商業(yè)落地的主要途徑。隨著各廠商大模型產(chǎn)品的研發(fā)和應(yīng)用，2024年醫(yī)療健康領(lǐng)域也將出現(xiàn)覆蓋不同應(yīng)用場(chǎng)景的醫(yī)療大模型，更多相關(guān)研究工作也將逐步展開(kāi)和驗(yàn)證。
大模型“通病”在醫(yī)療領(lǐng)域要零容忍
CDSreport發(fā)現(xiàn)，盡管大模型在醫(yī)療健康領(lǐng)域應(yīng)用效果的研究成果目前仍在少數(shù)，但對(duì)其存在的隱患已逐漸形成共識(shí)。上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任、復(fù)旦大學(xué)附屬眼耳鼻喉科醫(yī)院等多家機(jī)構(gòu)特聘教授肖仰華發(fā)表的論文闡述了大模型在醫(yī)療應(yīng)用中的局限性。1. 僅根據(jù)文字記載難以習(xí)得專(zhuān)家經(jīng)驗(yàn)醫(yī)療是一類(lèi)典型的嚴(yán)肅、復(fù)雜應(yīng)用場(chǎng)景，對(duì)大模型的準(zhǔn)確性、精確性、安全性、可靠性、認(rèn)知能力均提出更高要求。例如醫(yī)生在對(duì)患者進(jìn)行診斷時(shí)，不僅要考慮過(guò)往病史，還要通過(guò)場(chǎng)景判斷患者所述是否屬實(shí)，多憑借自身豐富經(jīng)驗(yàn)解決問(wèn)題。大模型難以僅從文字記載的數(shù)據(jù)中習(xí)得，與資深醫(yī)療專(zhuān)家水平仍有差距。2. 無(wú)法輔助解決真實(shí)場(chǎng)景中的復(fù)雜決策任務(wù)目前，以大模型為核心的人工智能技術(shù)在醫(yī)學(xué)中的應(yīng)用定位仍是輔助決策。ChatGPT類(lèi)大模型本質(zhì)上是在開(kāi)放環(huán)境中實(shí)現(xiàn)人機(jī)對(duì)話，但是開(kāi)放聊天無(wú)法輔助解決真實(shí)工作場(chǎng)景中的復(fù)雜決策任務(wù)。例如在疾病診斷方面，醫(yī)生會(huì)根據(jù)患者的收入和醫(yī)保情況制定個(gè)性化診療方案。要?jiǎng)偃未祟?lèi)工作，大模型需要豐富的專(zhuān)業(yè)知識(shí)、合理的角色定位、病情病勢(shì)研判能力、復(fù)雜約束取舍能力、不完全信息下的推斷能力等，大模型要從聊天能手變成醫(yī)學(xué)專(zhuān)業(yè)助手仍需經(jīng)歷漫長(zhǎng)的優(yōu)化過(guò)程。醫(yī)療關(guān)系到公眾的生命健康，對(duì)錯(cuò)誤需要零容忍，應(yīng)用任何人工智能技術(shù)都要有系統(tǒng)性的解決方案才能達(dá)到醫(yī)學(xué)嚴(yán)苛的準(zhǔn)確性與精度要求。而生成式大模型本質(zhì)上是概率模型，仍有產(chǎn)生錯(cuò)誤的可能。例如，胃復(fù)安的主要成分是甲氧氯普胺，但ChatGPT回答的是天然氣孔草酮。這看似嚴(yán)謹(jǐn)?shù)幕卮鸫嬖诨臼聦?shí)錯(cuò)誤，在應(yīng)用時(shí)需要付諸極大的代價(jià)判斷信息真?zhèn)危黾恿藨?yīng)用成本。幻覺(jué)問(wèn)題是大模型落地垂域應(yīng)用不可避免的問(wèn)題。對(duì)于以上醫(yī)療大模型目前存在的普遍問(wèn)題，肖仰華認(rèn)為原因有3點(diǎn)：首先，大模型先天能力不足，訓(xùn)練語(yǔ)料、輪次有限都會(huì)導(dǎo)致學(xué)習(xí)不充分、知識(shí)有限、推理受限等問(wèn)題；其次實(shí)際任務(wù)往往太復(fù)雜，大模型對(duì)復(fù)雜指令理解能力有限，進(jìn)而產(chǎn)生幻覺(jué)；最后，由于專(zhuān)業(yè)領(lǐng)域知識(shí)相對(duì)薄弱、難獲取，大模型對(duì)于某些專(zhuān)業(yè)知識(shí)的掌握能力有限，因此生成錯(cuò)誤答案。
本地化部署或成2024年發(fā)展方向
如何才能解決大模型在醫(yī)療健康領(lǐng)域現(xiàn)存的問(wèn)題？劉加林提出，應(yīng)對(duì)數(shù)據(jù)進(jìn)行審查和清洗，為大模型提供更加廣泛和多樣化的訓(xùn)練數(shù)據(jù)，涵蓋不同人口群體和疾病情況，以減少偏見(jiàn)的影響，確保大模型的輸出結(jié)果是公正和準(zhǔn)確的。此外，為了保護(hù)患者的隱私和數(shù)據(jù)安全，需要采取嚴(yán)格的數(shù)據(jù)安全措施，如數(shù)據(jù)加密、訪問(wèn)控制和匿名化等。同時(shí)，為了提高其可信度和可接受性，需要研究算法的透明性和可解釋性，包括開(kāi)發(fā)解釋性的模型架構(gòu)、提供決策依據(jù)的解釋?zhuān)约坝涗浐蛯彶榇竽Ｐ团c患者之間的交互過(guò)程。為了克服上述問(wèn)題和風(fēng)險(xiǎn)，政府部門(mén)、學(xué)協(xié)會(huì)、研究機(jī)構(gòu)和醫(yī)療機(jī)構(gòu)等需要針對(duì)實(shí)際問(wèn)題制定相關(guān)政策和監(jiān)管措施，確保大模型在臨床實(shí)踐中的合理和安全應(yīng)用。同時(shí)，還需要加強(qiáng)研究，提高大模型的性能和可靠性，以確保其在醫(yī)療領(lǐng)域的廣泛應(yīng)用能夠帶來(lái)真正的益處，并最大限度地減少風(fēng)險(xiǎn)。為此，由中國(guó)信息通信研究院牽頭，國(guó)家衛(wèi)生健康委醫(yī)療服務(wù)指導(dǎo)管理中心以及多家醫(yī)院、技術(shù)公司共同研究起草的《醫(yī)療健康行業(yè)大模型應(yīng)用技術(shù)要求 第1部分：醫(yī)院側(cè)醫(yī)療服務(wù)》《醫(yī)療健康行業(yè)大模型應(yīng)用技術(shù)要求 第2部分：患者側(cè)醫(yī)療服務(wù)》《醫(yī)療健康行業(yè)大模型合成服務(wù)治理規(guī)范 第1部分：數(shù)據(jù)處理》《醫(yī)療健康行業(yè)大模型安全管理能力要求 第1部分：應(yīng)用安全》四項(xiàng)標(biāo)準(zhǔn)于2023年9月發(fā)布。旨在對(duì)醫(yī)療健康行業(yè)大模型應(yīng)用服務(wù)能力進(jìn)行全方位、多角度的綜合評(píng)定，通過(guò)構(gòu)建全面多層的測(cè)試問(wèn)題集，探查醫(yī)療健康行業(yè)大模型的知識(shí)豐富度和臨床溝通能力等。
醫(yī)療健康行業(yè)大模型系列標(biāo)準(zhǔn)框架根據(jù)中國(guó)信息通信研究院制定的“醫(yī)療健康行業(yè)大模型系列標(biāo)準(zhǔn)框架”，下一步還將陸續(xù)發(fā)布多項(xiàng)標(biāo)準(zhǔn)，以促進(jìn)大模型在醫(yī)療健康行業(yè)的技術(shù)標(biāo)準(zhǔn)、能力建設(shè)、涵蓋范圍和安全要求等。對(duì)于2024年的發(fā)展方向，中國(guó)信通院云大所數(shù)字健康部副主任馮天宜表示，一方面，大模型在醫(yī)療場(chǎng)景應(yīng)用，還需兼顧安全性與專(zhuān)業(yè)性，可以通過(guò)數(shù)據(jù)清洗、標(biāo)注和驗(yàn)證等對(duì)規(guī)范數(shù)據(jù)質(zhì)量提出量化要求以控制數(shù)據(jù)質(zhì)量，及時(shí)開(kāi)展算法檢測(cè)和修正確保模型決策透明、可解釋、可追溯等手段應(yīng)對(duì)內(nèi)容虛假和錯(cuò)誤的問(wèn)題；另一方面，大模型的計(jì)算需要大量的算力作為支撐，但醫(yī)院在算力部署等方面仍存在短板，因此輕量化、本地化部署的大模型將成為重要發(fā)展方向。目前，已有廠商已經(jīng)解決了大模型在醫(yī)療機(jī)構(gòu)私有化部署的問(wèn)題。例如惠每科技與英特爾聯(lián)合開(kāi)發(fā)了基于CPU的大模型推理技術(shù)，使惠每醫(yī)療大模型可與醫(yī)院部署的CDSS無(wú)縫集成，無(wú)需重新對(duì)接或購(gòu)買(mǎi)GPU服務(wù)器，幫助醫(yī)院低成本地使用大模型。目前惠每醫(yī)療大模型已經(jīng)具備鑒別診斷和病歷自動(dòng)生成能力，未來(lái)在CDSS提供高質(zhì)量醫(yī)療數(shù)據(jù)的基礎(chǔ)上，其可在更多診療環(huán)節(jié)展現(xiàn)能力。1. 四川大學(xué)華西醫(yī)院信息中心劉加林教授團(tuán)隊(duì):ChatGPT在臨床實(shí)踐中的應(yīng)用.劉加林等.華西醫(yī)學(xué)時(shí)間.2023.07.042. 是時(shí)候,給醫(yī)療大模型來(lái)一套標(biāo)準(zhǔn)試題.閔棟. 財(cái)經(jīng)大健康.2023.12.113. 大規(guī)模生成式語(yǔ)言模型在醫(yī)療領(lǐng)域的應(yīng)用:機(jī)遇與挑戰(zhàn).肖仰華,徐一丹.醫(yī)學(xué)信息學(xué)雜志.2023,44(9):1-114. AI大模型競(jìng)相入局醫(yī)療賽道,如何應(yīng)對(duì)各類(lèi)落地挑戰(zhàn)?.鄒臻杰.第一財(cái)經(jīng).2024.01.08
