?

　　近年來，隨著技術(shù)的不斷進步，診斷專家系統(tǒng)，醫(yī)療機器人等人工智能產(chǎn)品正不斷應(yīng)用于醫(yī)療領(lǐng)域，大幅提升了效率和效益，減輕了醫(yī)護人員的工作量，但同時也不可避免地帶來了關(guān)于醫(yī)療人工智能技術(shù)的倫理問題。這些問題，既有人工智能的共性問題，也有與醫(yī)療相關(guān)的特殊性倫理問題。倫理委員會審查人工智能醫(yī)療器械的核心問題包括風(fēng)險評估、數(shù)據(jù)庫、數(shù)據(jù)安全及軟件更新。

　　1.難以準確評估風(fēng)險

　　人工智能醫(yī)療器械的使用與健康息息相關(guān)，風(fēng)險評估尤為重要。臨床使用風(fēng)險應(yīng)考慮數(shù)據(jù)質(zhì)量控制、算法泛化能力的直接影響和算力所用計算資源（即運行環(huán)境）失效的間接影響。為使風(fēng)險最小化，確保人工智能醫(yī)療器械的可靠性，需在使用過程中評估其風(fēng)險。倫理審查中應(yīng)注意其考量因素是否包括了臨床使用中的假陽性、假陰性和進口軟件的中外差異，以及風(fēng)險管理活動相關(guān)的預(yù)期用途、使用場景、核心功能及措施、要求。

　　2.構(gòu)建恰當(dāng)類型數(shù)據(jù)集

　　數(shù)據(jù)是人工智能醫(yī)療器械的核心要素，將成為制約人工智能醫(yī)療器械發(fā)展的瓶頸。因此，數(shù)據(jù)集的構(gòu)建是人工智能醫(yī)療器械審批的先行之舉，2019年7月17日之前我國僅存在肺結(jié)節(jié)和眼底兩類影像標準數(shù)據(jù)集，未來將建立肺CT、腦磁共振、冠狀動脈CT血管造影等更多測試樣本標準數(shù)據(jù)集，且明確測試數(shù)據(jù)集的類型包含檢驗數(shù)據(jù)庫、真實世界數(shù)據(jù)。基于足夠數(shù)量的數(shù)據(jù)庫樣本用于訓(xùn)練人工智能醫(yī)療器械，將大幅降低其誤診率和漏診率。

　　3.確保數(shù)據(jù)安全

　　數(shù)據(jù)安全已成為人工智能的關(guān)注重點。企業(yè)作為運營者應(yīng)承擔(dān)主體防護責(zé)任，主管部門應(yīng)履行監(jiān)管責(zé)任。數(shù)據(jù)安全性的提高需得到醫(yī)療機構(gòu)的配合，醫(yī)療機構(gòu)在對健康數(shù)據(jù)進行歸檔、備份等數(shù)據(jù)傳輸操作時，尤其是通過公共互聯(lián)網(wǎng)傳輸敏感數(shù)據(jù)時，若未對敏感數(shù)據(jù)進行加密處理，容易造成患者治療信息、基因等重要醫(yī)療健康數(shù)據(jù)信息泄露。

　　4.算法更新導(dǎo)致軟件迭代

　　軟件更新是導(dǎo)致人工智能軟件召回的主要原因之一，應(yīng)考慮對軟件安全性和有效性的正面和負面影響。軟件更新包括數(shù)據(jù)驅(qū)動型和算法驅(qū)動型軟件更新，由此產(chǎn)生重大軟件更新、輕微軟件更新及其版本命名規(guī)則。人工智能的算法雖說只是一種數(shù)學(xué)表達，看似與價值無關(guān)，實際上卻不可避免地存在主觀偏見。這種偏見的來源是多方面的，既有可能來自于訓(xùn)練系統(tǒng)的數(shù)據(jù)輸入，又有可能來自于編程人員的價值觀嵌入。為加快人工智能醫(yī)療器械的審批，基于現(xiàn)有歷史數(shù)據(jù)的回顧性研究可用于臨床評價，甚至算法性能評估可采用屬于回顧性研究的第三方數(shù)據(jù)庫。

　　參考文獻：

　　1）李鴻浩,段偉文,陳蕾,等.醫(yī)療人工智能技術(shù)研發(fā)與應(yīng)用的倫理挑戰(zhàn)和對策——以我國大型公立醫(yī)院為例的思考[J].人工智能,2019,000（004）:P.70-78.
　　2）周吉銀,李紅英,楊陽.人工智能醫(yī)療器械的倫理審查要點[J].醫(yī)學(xué)與哲學(xué),2020:35-39.
　　來源：CIRS