“AI+醫療”：便捷與風(fēng)險并存

法治日報記者　　文麗娟

法治日報實(shí)習生 張廣龍

早上8點(diǎn)，四川省綿陽(yáng)市游仙區忠興鎮興合村村醫宋文卓來(lái)到衛生室，第一件事就是打開(kāi)電腦登錄AI（人工智能）輔助診療系統，這是他近段時(shí)間養成的一個(gè)新習慣。

“宋醫生，我心跳有點(diǎn)快，感覺(jué)上不來(lái)氣，偶爾還會(huì )咳嗽幾聲。”衛生室剛開(kāi)門(mén)，年近九旬的村民涂婆婆便在老伴的陪同下前來(lái)看診。宋文卓一邊詢(xún)問(wèn)癥狀，一邊將病情輸入系統，然后點(diǎn)擊AI輔診按鈕，系統迅速與擁有海量多發(fā)病、常見(jiàn)病等病例的國家核心知識庫對接，通過(guò)提取和分析患者的歷史病歷信息，給出“急性上呼吸道感染”等診斷建議。宋文卓結合自己的臨床經(jīng)驗進(jìn)行綜合評估，最終確定涂婆婆是急性上呼吸道感染。

隨后，系統根據醫生的選擇，給出了推薦用藥，列出推薦依據、檢查建議等。宋文卓參考選定治療藥物，讓老人先吃藥觀(guān)察。

在宋文卓看來(lái)，AI輔診系統的應用，不僅提高了診斷的準確性和效率，還能幫助醫生更好地應對復雜病例，降低誤診漏診風(fēng)險，看病用藥也更加安全放心。

AI輔助診療系統在綿陽(yáng)市游仙區基層醫療機構的應用，是我國推進(jìn)“AI+醫療”的一個(gè)生動(dòng)縮影。《“十四五”醫療裝備產(chǎn)業(yè)發(fā)展規劃》明確提出加快智能醫療裝備發(fā)展；《關(guān)于進(jìn)一步完善醫療衛生服務(wù)體系的意見(jiàn)》提出發(fā)展“互聯(lián)網(wǎng)+醫療健康”，加快推進(jìn)互聯(lián)網(wǎng)、人工智能等在醫療衛生領(lǐng)域中的應用……近年來(lái)，我國不斷加強頂層設計，推進(jìn)“AI+醫療”的發(fā)展。

多名業(yè)內人士和專(zhuān)家在接受《法治日報》記者采訪(fǎng)時(shí)指出，醫療領(lǐng)域已經(jīng)成為探索AI應用的重要場(chǎng)所，目前在一些醫院主要應用于分導診、預問(wèn)診、病歷生成等場(chǎng)景，助力患者就醫更加便捷，提升了醫療服務(wù)質(zhì)量，未來(lái)AI輔助診療將會(huì )成為一種趨勢，但也需要警惕背后隱藏的法律風(fēng)險，這些風(fēng)險不僅涉及患者個(gè)人隱私保護，還關(guān)系到算法透明度和公平性等問(wèn)題。

多地上線(xiàn)AI輔診

提升患者就診體驗

近日，記者來(lái)到北京大學(xué)人民醫院進(jìn)行甲狀腺和瘢痕檢查，檢查項目包括B超、血液檢查等。繳費完成后，醫生提醒可在系統預約檢查時(shí)間。記者打開(kāi)手機，像“自助值機”一樣，在可選時(shí)間段，把檢查項目約在相對集中的時(shí)間，這樣就可以“一次跑完”，在最短的時(shí)間內完成所有檢查，避免了因現場(chǎng)排隊改約和檢查時(shí)間不同而帶來(lái)的反復奔波。

這只是AI輔助醫療的一個(gè)縮影。記者梳理公開(kāi)資料發(fā)現，“AI+醫療”目前已在多個(gè)醫院落地。

在華中科技大學(xué)同濟醫學(xué)院附屬協(xié)和醫院，如果患者不知道掛哪個(gè)科室，AI可以來(lái)幫忙。

該院今年5月推出了“AI智慧門(mén)診”，涵蓋智能分導診、智能加號等功能。以彼時(shí)的“智能加號”功能為例：患者可點(diǎn)擊“掛號服務(wù)”“在線(xiàn)掛號”，進(jìn)入需要預約的科室，如果選擇的專(zhuān)家號“滿(mǎn)診”，則可點(diǎn)擊下方的“申請加號”，在跳轉頁(yè)面選擇該專(zhuān)家的加號日期。確定免費預約后，AI會(huì )自動(dòng)發(fā)起對話(huà)，詢(xún)問(wèn)病情等相關(guān)情況，然后生成“病情卡片”，再綜合評估病情嚴重程度，判斷加號資格，最后發(fā)送給專(zhuān)家確定是否通過(guò)。

此外，該院還推出“智能候診室”功能。患者掛號后，由“醫生數字人”與患者先進(jìn)行溝通，提前了解患者癥狀、病程等，為醫生面診做準備。

在浙江省人民醫院，數字健康人“安診兒”可以陪伴患者就診。

據了解，“安診兒”可以為患者提供覆蓋就醫前、中、后的AI陪診服務(wù)。診前，患者可以向其描述自己的癥狀，“安診兒”根據癥狀為患者匹配科室和醫生，幫助患者預約掛號；診中，“安診兒”可合理安排就診流程，全程提供AR智能導航，還可以讓患者在線(xiàn)上直接取號，并提供叫號提醒，甚至能在支付寶上完成醫保繳費，節約患者的就醫時(shí)間；診后，患者離開(kāi)醫院，其還會(huì )繼續提供電子病歷、處方和報告查詢(xún)等服務(wù)。

在北京友誼醫院，AI能幫醫生寫(xiě)病歷。

今年5月，云知聲門(mén)診病歷生成系統在北京友誼醫院應用。該系統能在復雜的醫院環(huán)境中識別醫患對話(huà)，精準捕捉關(guān)鍵信息，分離醫患角色，并從中剔除與病情無(wú)關(guān)的內容，生成專(zhuān)業(yè)術(shù)語(yǔ)表達的信息摘要，以及符合病歷書(shū)寫(xiě)規范要求的門(mén)診電子病歷。數據顯示，在門(mén)診病歷生成系統的幫助下，北京友誼醫院相關(guān)科室門(mén)診病例錄入效率大幅提升，醫生問(wèn)診時(shí)間大幅縮短。

法律風(fēng)險不容忽視

警惕算法歧視問(wèn)題

多名受訪(fǎng)的業(yè)內人士指出，人工智能在醫療領(lǐng)域的廣泛應用，能為患者提供更便捷的服務(wù)，提高了醫療服務(wù)的效率和精準度，讓優(yōu)質(zhì)醫療資源更普惠，但其背后的法律風(fēng)險也不容忽視。

在山西大學(xué)法學(xué)院講師陳川看來(lái)，傳統醫療診斷過(guò)程強調醫生對患者人格尊嚴和自主權的尊重與保護，醫生在作出醫療決策時(shí)，需綜合考慮患者的既往病史和當前癥狀，并依照相關(guān)法律法規與倫理規范，制定適宜的治療方案。然而，醫療人工智能存在“自動(dòng)化偏見(jiàn)”風(fēng)險，即醫生在診斷過(guò)程中可能會(huì )過(guò)度依賴(lài)人工智能技術(shù)，從而忽略自身專(zhuān)業(yè)判斷和對患者個(gè)體需求的考慮。這種過(guò)度依賴(lài)可能導致醫生將困難的醫療決策不恰當地交給人工智能處理。當醫生過(guò)度依賴(lài)人工智能時(shí)，患者的治療決策可能被剝奪，轉而交由機器進(jìn)行處理，導致患者失去對自身健康管理的自主權。

此外，算法透明度不足和算法歧視問(wèn)題也不容忽視。“雖然2023年7月國家網(wǎng)信辦吉印通國家發(fā)展改革委等部門(mén)公布的《生成式人工智能服務(wù)管理暫行辦法》提出了算法透明性要求，但在具體實(shí)施過(guò)程中，算法的實(shí)際工作原理和決策過(guò)程往往難以被外界理解和監督。由于算法透明度不足，患者無(wú)法了解醫療人工智能是如何得出診斷結論的，導致其知情權和選擇權無(wú)法得到充分保障，可能會(huì )侵犯患者的知情同意權和自主決定權。”陳川說(shuō)。

她提出，算法歧視問(wèn)題還會(huì )導致不同地區在醫療資源上的不平等現象。不同開(kāi)發(fā)者在訓練算法時(shí)可能無(wú)意間引入偏見(jiàn)，導致生成式人工智能在面對不同群體患者時(shí)作出歧視性決策。例如，某些醫療人工智能系統在篩查病人時(shí)，診斷結果不準確或存在系統性低估。再比如，算法模型的訓練數據如果主要來(lái)自某些特定群體，可能會(huì )導致其面對特殊群體時(shí)產(chǎn)生偏見(jiàn)。

陳川認為，目前，人工智能在醫療領(lǐng)域的應用仍處于探索階段，易因誤診、數據泄露等行為引發(fā)問(wèn)責和歸責問(wèn)題。我國民法典規定醫療損害責任適用過(guò)錯責任原則，也考慮到醫療器械所致?lián)p害的責任承擔問(wèn)題。但人工智能能夠獨立生成醫療診斷結果或建議，因此在現行法律框架下，對醫療人工智能應用的追責十分復雜，傳統的責任形式難以簡(jiǎn)單套用到醫療人工智能上。

線(xiàn)上購藥本末倒置

審核環(huán)節形同虛設

除了“AI+醫療”作為一種新興模式在實(shí)際應用過(guò)程中可能存在一定法律風(fēng)險外，一些線(xiàn)上醫療問(wèn)診、線(xiàn)上購藥平臺在引入AI輔助后，雖然給患者帶來(lái)便捷，但也暴露出不少問(wèn)題。

記者在調查中發(fā)現，一些互聯(lián)網(wǎng)醫療平臺采用“先選購藥品，再因藥配方，甚至由人工智能軟件自動(dòng)生成處方”這樣本末倒置的操作方式。

記者前不久在某購藥平臺下單處方藥骨化三醇軟膠囊后，平臺提示“請選擇線(xiàn)下已確診疾病”。記者在“疾病欄”隨機勾選了幾項，“處方/病歷/檢查報告欄”空著(zhù)，并確認“已確診此疾病并使用過(guò)該藥，且無(wú)過(guò)敏史、無(wú)相關(guān)禁忌證和不良反應”，很快便通過(guò)了驗證，提交清單后，系統跳至問(wèn)診版塊。

緊接著(zhù)，有“醫師”接診，連續發(fā)來(lái)數條信息，其中第一條強調“互聯(lián)網(wǎng)醫院只對復診用戶(hù)提供醫療服務(wù)”，后續幾條信息均為確認有無(wú)過(guò)敏史或處于特殊時(shí)期。在記者沒(méi)有回復的情況下，對方就發(fā)來(lái)一張處方單和購買(mǎi)鏈接。

北京市民楊木（化名）也有過(guò)類(lèi)似經(jīng)歷，他懷疑屏幕背后接診的不是真的執業(yè)醫師：“在××平臺購買(mǎi)處方藥時(shí)，感覺(jué)對方跟機器人沒(méi)有差別，只要打字過(guò)去，對方就會(huì )在幾秒鐘內迅速同意，根本沒(méi)有給出任何專(zhuān)業(yè)意見(jiàn)。”有一次，他故意描述一些不是欲購藥品適應病癥的情況，結果對方仍然很快開(kāi)了處方。

多名業(yè)內人士認為，“隔空”診療并不適合所有患者，常見(jiàn)病、慢性病的復診，是較長(cháng)時(shí)間以來(lái)互聯(lián)網(wǎng)診療的定位。不過(guò)，對于何為復診，業(yè)內一直缺少具體標準，導致出現一些監管真空。

“假如是正規互聯(lián)網(wǎng)醫院，有執業(yè)資格的醫生開(kāi)具的電子處方，應該有醫生的簽名、互聯(lián)網(wǎng)醫院電子章。不排除有些小型互聯(lián)網(wǎng)醫療平臺存在用人工智能、機器人等工具自動(dòng)生成處方，一些大平臺會(huì )用AI等來(lái)輔助醫生問(wèn)診，比如問(wèn)病人幾歲、哪里不舒服等，但是處方必須要求醫生來(lái)開(kāi)。”北京某三甲醫院一劉姓醫生說(shuō)。

他還注意到，不少平臺為謀取利益，采用“AI開(kāi)處方，客戶(hù)直接取藥”的模式，處方開(kāi)具、審核環(huán)節形同虛設，要么直接跳過(guò)開(kāi)具處方這一流程，要么對用戶(hù)上傳的處方并不實(shí)際審核，這類(lèi)行為嚴重違反了我國藥品管理制度，也給患者用藥安全埋下風(fēng)險隱患。

在線(xiàn)上健康平臺咨詢(xún)問(wèn)診會(huì )不會(huì )泄露個(gè)人信息，也是多名受訪(fǎng)患者提出的疑問(wèn)。

有一次，楊木的后背上起了不少紅疹子，便在某健康平臺進(jìn)行問(wèn)診，結果沒(méi)過(guò)幾天，他就陸續接到多個(gè)廣告電話(huà)和短信，有詢(xún)問(wèn)是否需要植發(fā)的、有推銷(xiāo)護膚產(chǎn)品的，甚至還有借貸公司打來(lái)的推銷(xiāo)電話(huà)。

“問(wèn)診時(shí)，平臺采集的個(gè)人信息和健康情況能不能保存好，這些信息會(huì )不會(huì )流向第三方？”楊木很是擔心。

此前，工信部曾通報過(guò)多個(gè)互聯(lián)網(wǎng)醫療App在個(gè)人信息收集及使用方面存在嚴重問(wèn)題，包括超范圍采集個(gè)人隱私信息、未經(jīng)本人同意向他人提供個(gè)人信息、收集與醫療服務(wù)無(wú)關(guān)的個(gè)人信息等。

“與其他類(lèi)型App相比，醫療類(lèi)App泄露個(gè)人信息可能會(huì )導致更嚴重的法律問(wèn)題。如果個(gè)人健康信息被泄露，不法分子可能利用這些信息實(shí)施精準詐騙，比如利用‘病急亂投醫’的心理向患者非法售賣(mài)或推廣藥品。”前述劉醫生說(shuō)。

完善相關(guān)法律框架

切實(shí)保障患者權益

受訪(fǎng)專(zhuān)家指出，為了有效應對“AI+醫療”在實(shí)際應用中潛在的法律風(fēng)險，需要從法律和政策兩個(gè)層面進(jìn)行系統化完善。只有建立健全法律框架和監管機制，明確醫療大模型的責任歸屬和數據使用規范，才能在推動(dòng)醫療人工智能發(fā)展的同時(shí)，切實(shí)保障患者的合法權益。

“首先要建立完善醫療人工智能法律框架。目前，《生成式人工智能服務(wù)管理暫行辦法》未涉及醫療領(lǐng)域人工智能規定，需要在其基礎上結合醫療領(lǐng)域的特點(diǎn)制定相關(guān)法律法規，突出強調醫療人工智能的輔助作用。”陳川說(shuō)，為了幫助醫療工作人員、患者更好地使用人工智能系統、了解人工智能得出診斷結果的運行機制，我國可以配套制定醫療人工智能使用指南，以增強醫療人工智能系統及其結果的可解釋性；還需完善其他法律規定，數據安全法、《涉及人的生命科學(xué)和醫學(xué)研究倫理審查辦法》等為制定醫療人工智能管理辦法提供了基礎，應依據人工智能發(fā)展現狀出臺適用醫療人工智能的管理辦法。

陳川還提到，強化醫療人工智能算法監管刻不容緩。一方面，為確保醫療人工智能的安全性和可靠性，應成立算法審查專(zhuān)門(mén)機構，對醫療人工智能進(jìn)行嚴格的安全性、透明性、倫理性審查；另一方面，基于數據的動(dòng)態(tài)性和人工智能技術(shù)的不斷迭代升級，應要求研發(fā)者提前研判算法應用過(guò)程中產(chǎn)生的安全風(fēng)險并提出針對性應對措施，在算法生命周期內定期開(kāi)展算法風(fēng)險監測工作，針對算法的數據使用、應用場(chǎng)景、影響效果等進(jìn)行自我安全評估。此外，可開(kāi)啟公眾監督舉報、監管部門(mén)巡查等多種措施。

北京中醫藥大學(xué)法律系教授鄧勇也認為，隨著(zhù)醫療大模型的發(fā)展，這一產(chǎn)業(yè)合規運營(yíng)與監管顯得越發(fā)重要，需要確定自身的產(chǎn)品定位并獲取對應的資質(zhì)，避免無(wú)資質(zhì)開(kāi)展相應活動(dòng)。“合規方面，首要應當確定自身的產(chǎn)品定位，如屬于互聯(lián)網(wǎng)診療產(chǎn)品的，需要聯(lián)系或建立對應的實(shí)體醫療機構并申請設置相應的互聯(lián)網(wǎng)醫院，并在醫師資源、病歷管理、藥品配送、處方開(kāi)具上滿(mǎn)足相應要求，如僅作健康管理，不涉及診療活動(dòng)的，必須明確自身產(chǎn)品不具有‘醫療目的’，僅‘預期用于健康管理、目標人群為健康人群、記錄統計健康信息’用。”

他提出，還應當采取數據清洗等方式確保去除公開(kāi)數據中的違法和不良信息及個(gè)人信息，保證訓練數據合法合規。醫療大模型收集用戶(hù)數據的要求，需要遵循合法、正當、必要的原則，不收集與所提供服務(wù)無(wú)關(guān)的個(gè)人信息。

“醫療大模型收集用戶(hù)數據的紅線(xiàn)行為包括：未公開(kāi)收集使用規則；未明示收集使用個(gè)人信息的目的、方式和范圍；未經(jīng)用戶(hù)同意收集使用個(gè)人信息；違反必要原則，收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息；未經(jīng)同意向他人提供個(gè)人信息；未按法律規定提供刪除或更正個(gè)人信息功能或未公布投訴、舉報方式等信息。”鄧勇說(shuō)，收集互聯(lián)網(wǎng)公開(kāi)數據時(shí)，為確保其合法合規，還需要履行告知同意程序、匿名化程序、提供拒絕渠道等操作。此外，應當注重數據標注機制，通過(guò)標注防止生成色情暴力、歧視性信息等違法和不良內容，實(shí)現內容安全。

針對線(xiàn)上醫療問(wèn)診暴露出的問(wèn)題，陳川認為，亟須明確人工智能的法律責任，建立科學(xué)合理的責任分配機制，強化醫務(wù)人員的主體責任，明確AI處于輔助性地位，細化各領(lǐng)域參與者的責任，不能將醫療診斷徹底交給AI，應遵循“事前預防—事中監控—事后問(wèn)責”的原則。“醫務(wù)人員在行醫過(guò)程中須履行注意義務(wù)，即醫務(wù)人員須注意識別和鑒定AI診斷結果，否則應當承擔責任。”

來(lái)源：法治日報