隨著人工智能（AI）技術的不斷發(fā)展和迭代，人類社會已進入大算力、大模型、大數(shù)據(jù)、大應用時代。AI早已被引入醫(yī)療領域，在流行病監(jiān)測、藥物研發(fā)、醫(yī)療影像識別、心理健康等方面發(fā)揮重要作用。而與之相伴的數(shù)據(jù)安全隱患也日益凸顯。

當前，醫(yī)療領域網(wǎng)絡化、數(shù)字化、智能化進程面臨的安全風險主要包括數(shù)據(jù)泄露與隱私泄露、網(wǎng)絡攻擊與黑客入侵、數(shù)據(jù)篡改與偽造、不當訪問與授權管理、醫(yī)療數(shù)據(jù)共享風險、數(shù)據(jù)存儲的第三方服務風險、內(nèi)部人員的泄密、數(shù)據(jù)冗余與保存不當、法律合規(guī)風險等。概括來說，要關注以下3個方面的問題。

第一是網(wǎng)絡安全問題。隨著AI技術的應用，網(wǎng)絡安全風險出現(xiàn)了新變化，傳統(tǒng)的網(wǎng)絡安全問題受AI影響變得更加復雜，數(shù)據(jù)劫持、網(wǎng)絡釣魚、勒索攻擊更加猖獗。

當前，醫(yī)療領域的網(wǎng)絡犯罪現(xiàn)象十分突出，醫(yī)療數(shù)據(jù)遭受攻擊和破壞的案例時有發(fā)生。例如，2023年，位于印度新德里的全印度醫(yī)學科學研究所的醫(yī)療設備遭遇勒索病毒攻擊；今年9月，美國AI醫(yī)療公司Confidant Health的服務器配置錯誤，泄露了5.3TB的敏感心理健康記錄。

IBM發(fā)布的《2024年數(shù)據(jù)泄露成本報告》顯示，醫(yī)療行業(yè)數(shù)據(jù)泄露平均成本達977萬美元，連續(xù)14年成為數(shù)據(jù)泄露成本最高的行業(yè)。國內(nèi)某網(wǎng)絡安全企業(yè)也披露，2023年醫(yī)療行業(yè)泄露數(shù)據(jù)達9億條，影響觸目驚心。

第二是模型安全問題。AI模型的安全性直接影響應用效果，尤其是在醫(yī)療領域，近年來已經(jīng)暴露出一些問題，包括個人隱私泄露、算法或模型攻擊、模型偏差以及系統(tǒng)脆弱性和網(wǎng)絡安全。這些問題的主要原因是模型本身在可靠性和可解釋性方面存在不足。例如，AI模型受到簡單擾動可能就會產(chǎn)生錯誤輸出，或者數(shù)據(jù)本身存在問題導致AI模型結果不準確。

第三是AI在醫(yī)療領域應用中不可忽視的倫理問題。全球多國發(fā)布了關于AI倫理的文件，提出合作、透明度、公平、非惡意責任、隱私等基本要求。醫(yī)療領域也提出如何保護個人自主權、個人健康和安全以及公眾利益等具體要求。然而，隨著實際應用的推廣，與AI相關的偏見、歧視、技術濫用、事故責任認定等倫理問題越來越突出。

針對AI在醫(yī)療領域應用的風險問題，需要從數(shù)據(jù)、安全和管理等角度進行應對。

在數(shù)據(jù)方面，要提高安全防護水平，確保數(shù)據(jù)安全和隱私保護，促進AI技術在現(xiàn)代醫(yī)療領域的轉(zhuǎn)型和升級。數(shù)據(jù)是現(xiàn)代醫(yī)療的重要生產(chǎn)要素，具有很高的價值。雖然當前醫(yī)療數(shù)據(jù)數(shù)量越來越多，但數(shù)據(jù)質(zhì)量并沒有隨之提高，“數(shù)據(jù)孤島”問題依然存在，數(shù)據(jù)協(xié)同合作動能和效能不足，跨境數(shù)據(jù)流動面臨較多待破解難題等，急需全方位突破。

在安全工作方面，要統(tǒng)籌安全與發(fā)展，強化安全保障體系。具體而言，要把軟件作為網(wǎng)絡安全服務的重點，確保醫(yī)療智能化系統(tǒng)的穩(wěn)定性和可靠性。同時，需要加強醫(yī)療數(shù)據(jù)的保護，防范患者隱私數(shù)據(jù)丟失，但要確保促進正常的科研合作和數(shù)據(jù)流動。此外，還需要增強安全意識，通過定期培訓與教育、營造安全文化氛圍、模擬演練與應急響應、建立安全意識提示機制等舉措，增強醫(yī)療行業(yè)從業(yè)人員整體的網(wǎng)絡安全意識。

最后，要堅持依法依規(guī)管理，做好“技管并重”。可以充分利用數(shù)字醫(yī)療技術、安全保障技術等手段確保AI技術在醫(yī)療領域的發(fā)展和安全。同時，還要高度重視對新技術安全風險方案的研究，嚴格遵守法規(guī)政策，遵循技術標準和行業(yè)規(guī)范，以確保AI應用的安全性。

（作者吳世忠系中國工程院院士，中國科學報記者刁雯蕙根據(jù)其在2024新質(zhì)生產(chǎn)力、醫(yī)工融合創(chuàng)新大會上的報告整理）