欧美日韩一道本,日韩成年人视频在线观看,欧美日韩高清久久久

【廣東】人工智能醫(yī)學軟件網(wǎng)絡(luò)安全技術(shù)審評指導原則發(fā)布

日期:2022-12-19

瀏覽量：2309

各有關(guān)單位：

? ? ? ?根據(jù)國家重點研發(fā)計劃專項課題《人工智能醫(yī)學信息系統(tǒng)軟件審評指導體系構(gòu)建》的要求，由我中心負責起草的《超聲影像人工智能診斷軟件技術(shù)審評指導原則》等11項人工智能醫(yī)學信息系統(tǒng)軟件指導原則（見附件）已經(jīng)完成制定流程，并通過專家組審定，現(xiàn)予以發(fā)布，供參考。

? ? ? ?附件：

? ? ? ?1.人工智能醫(yī)學軟件網(wǎng)絡(luò)安全技術(shù)審評指導原則

廣東省藥品監(jiān)督管理局審評認證中心

2022年12月13日

本文為附件1：

人工智能醫(yī)學軟件網(wǎng)絡(luò)安全技術(shù)審評指導原則

本指導原則是人工智能醫(yī)學信息系統(tǒng)軟件審評指導體系構(gòu)建的組成部分，基于人工智能醫(yī)療器械審評指導原則和醫(yī)療器械網(wǎng)絡(luò)安全注冊審查指導原則的通用要求，細化了人工智能醫(yī)學軟件網(wǎng)絡(luò)安全的一般要求。

本指導原則旨在指導注冊人規(guī)范人工智能醫(yī)學軟件網(wǎng)絡(luò)安全生存周期過程和為技術(shù)審評提供參考。不涉及相關(guān)行政審批事項，亦不作為法規(guī)強制執(zhí)行，應在遵循相關(guān)法規(guī)的前提下使用本指導原則。

本指導原則是在現(xiàn)行法規(guī)和標準體系以及當前認知水平下制定的，隨著法規(guī)和標準的不斷完善，以及科學技術(shù)的不斷發(fā)展，在使用過程中應對相關(guān)內(nèi)容適時進行調(diào)整。

一．適用范圍

本指導原則適用于人工智能醫(yī)學軟件的網(wǎng)絡(luò)安全的產(chǎn)品注冊，人工智能醫(yī)學軟件指采用人工智能技術(shù)（AI）實現(xiàn)其預期用途的醫(yī)學軟件，包括人工智能醫(yī)學獨立軟件和人工智能醫(yī)學軟件組件。如采用機器學習、模式識別、規(guī)則推理等技術(shù)實現(xiàn)醫(yī)療用途的獨立軟件和軟件組件。

二. 主要概念

（一）人工智能醫(yī)學軟件網(wǎng)絡(luò)安全

通過采取必要措施、防范對數(shù)據(jù)、模型等攻擊、侵入、干擾、破壞和非法使用以及意外事故，使軟件設(shè)備處于穩(wěn)定可靠運行的狀態(tài)，以及保障數(shù)據(jù)、模型等的完整性、保密性、可得性的能力。此外，人工智能醫(yī)學軟件是基于海量醫(yī)學數(shù)據(jù)和高算力算法的軟件，醫(yī)療數(shù)據(jù)包含個人標識、健康狀況以及醫(yī)療情況等相關(guān)信息，盡管信息安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全的定義和范圍各有側(cè)重，即有聯(lián)系又有區(qū)別，但本指導原則對三者不做嚴格區(qū)分，統(tǒng)一采用網(wǎng)絡(luò)安全進行表述，綜合考慮軟件的信息安全和數(shù)據(jù)安全。

（二）網(wǎng)絡(luò)安全特性

1.保密性

數(shù)據(jù)不被未授權(quán)實體（含產(chǎn)品、服務、個人、組織）獲得或知悉的特性，即人工智能醫(yī)學軟件相關(guān)數(shù)據(jù)僅可由授權(quán)用戶在授權(quán)時間以授權(quán)方式進行訪問和使用。

2.完整性

數(shù)據(jù)的創(chuàng)建、傳輸、存儲、顯示未以非授權(quán)方式進行更改（含刪除、添加）的特性，即人工智能醫(yī)學軟件相關(guān)數(shù)據(jù)是準確和完整的，且未被篡改。

3.可得性

數(shù)據(jù)可根據(jù)授權(quán)實體要求進行訪問和使用的特性，即人工智能醫(yī)學軟件自身和相關(guān)數(shù)據(jù)能以預期方式適時進行訪問和使用。

除保密性、完整性、可得性三個基本特性外，人工智能醫(yī)學軟件產(chǎn)品網(wǎng)絡(luò)安全還需考慮真實性、抗抵賴性、可核查性、可靠性等特性。注冊人應結(jié)合人工智能醫(yī)學軟件產(chǎn)品的預期用途、使用場景、核心功能進行綜合考量，從而確定人工智能醫(yī)學軟件產(chǎn)品網(wǎng)絡(luò)安全特性的具體要求。

(三) 網(wǎng)絡(luò)安全的風險級別

人工智能醫(yī)學軟件網(wǎng)絡(luò)安全風險與軟件風險存在差異，但是網(wǎng)絡(luò)安全風險作為軟件風險的重要組成部分，其風險級別亦可參照軟件采用安全性級別進行表述。在通常情形下，人工智能醫(yī)學軟件網(wǎng)絡(luò)安全的安全性級別與所屬人工智能醫(yī)學軟件的安全性級別相同；在特殊情形下，網(wǎng)絡(luò)安全的安全性級別可低于軟件的安全性級別，如軟件運行于不通公網(wǎng)的環(huán)境或軟件運行于完全受控的環(huán)境，此時需詳述理由并按網(wǎng)絡(luò)安全的安全性級別提交相應注冊申報資料。

人工智能醫(yī)學軟件產(chǎn)品網(wǎng)絡(luò)安全風險同樣結(jié)合軟件的預期用途、使用場景、核心功能進行綜合判定，特別是使用場景。不同使用場景的網(wǎng)絡(luò)環(huán)境不同，甚至存在巨大差異，對于人工智能醫(yī)學軟件產(chǎn)品網(wǎng)絡(luò)安全的影響亦不同，如門診、手術(shù)、住院、急救、家庭、轉(zhuǎn)運、公共場所等使用場景的網(wǎng)絡(luò)環(huán)境均有所不同，因此對于適用于多個使用場景的人工智能醫(yī)學軟件，注冊申請人需保證軟件在每個使用場景的網(wǎng)絡(luò)安全。

三. 網(wǎng)絡(luò)安全風險管理

（一）概述

隨著人工智能技術(shù)的發(fā)展，越來越多醫(yī)學軟件產(chǎn)品使用人工智能技術(shù)實現(xiàn)輔助診斷、輔助分析等功能，大部分軟件具備網(wǎng)絡(luò)連接功能以實現(xiàn)電子數(shù)據(jù)交換或遠程控制，在提升醫(yī)療服務質(zhì)量與效率的同時面臨著網(wǎng)絡(luò)攻擊的威脅。人工智能醫(yī)學軟件是基于海量醫(yī)學數(shù)據(jù)和高算力算法的軟件，醫(yī)療數(shù)據(jù)包含個人標識、健康狀況以及醫(yī)療情況等相關(guān)信息，鑒于醫(yī)療數(shù)據(jù)的特殊性，這些信息如被泄露、篡改或濫用，會影響健康護理、醫(yī)學治療以及科學研究效果，在更嚴重的情況下會導致醫(yī)療事故發(fā)生。另一方面，醫(yī)療數(shù)據(jù)大量涉及個人信息，數(shù)據(jù)的泄露、濫用和不正當披露會對個人信息安全造成侵害，甚至可能影響個人正常生活。因此，對于人工智能醫(yī)學軟件將帶來更多的網(wǎng)絡(luò)安全方面的考量，為保護個人健康醫(yī)療數(shù)據(jù)需要采取合理和適當?shù)墓芾砗图夹g(shù)保證措施，以達到以下目標：

a)保護醫(yī)療數(shù)據(jù)使用和披露過程中的保密性、完整性和可得性；

b)確保醫(yī)療數(shù)據(jù)使用和披露過程的隱私性，保護個人隱私、個人權(quán)益。

（二）風險分析

人工智能醫(yī)學軟件除考慮軟件自身網(wǎng)絡(luò)安全能力建設(shè)外，還應當在軟件全生命周期過程中考慮網(wǎng)絡(luò)與數(shù)據(jù)安全過程控制要求，包括上市前設(shè)計開發(fā)階段和上市后使用階段。

上市前設(shè)計開發(fā)階段包括算法數(shù)據(jù)構(gòu)建階段、算法訓練生成階段。

算法數(shù)據(jù)構(gòu)建階段包括兩個過程，分別是數(shù)據(jù)獲取和數(shù)據(jù)整理：

1.數(shù)據(jù)獲取部分是獲取用于訓練/更新算法的數(shù)據(jù)，其中數(shù)據(jù)包括自身私有數(shù)據(jù)、供應鏈數(shù)據(jù)、標準數(shù)據(jù)集、模型運行反饋數(shù)據(jù)等從多渠道獲取的數(shù)據(jù)。

2.數(shù)據(jù)整理部分是為將獲取的數(shù)據(jù)整合成為能夠作為訓練模型使用的數(shù)據(jù)，包括數(shù)據(jù)預處理、數(shù)據(jù)標注、數(shù)據(jù)集構(gòu)建等過程及數(shù)據(jù)存儲。

人工智能醫(yī)療軟件，區(qū)別一般的醫(yī)療器械軟件，人工智能醫(yī)學軟件依靠海量數(shù)據(jù)訓練，所以應識別該過程中網(wǎng)絡(luò)與數(shù)據(jù)安全風險并進行有效控制。該階段的具體風險如表1所示（包括但不限于）：

表1

風險點	階段	風險描述及危害
數(shù)據(jù)投毒	數(shù)據(jù)獲取	訓練數(shù)據(jù)植入被修改的樣本，使模型效果不佳，或定向使得某些實例被檢測為指定的結(jié)果
模型后門注入	數(shù)據(jù)獲取	模型植入部分具有特定模式特征的樣本，訓練后使模型產(chǎn)生后門
數(shù)據(jù)濫用	數(shù)據(jù)獲取	可能使用未經(jīng)用戶授權(quán)的數(shù)據(jù)，或者用戶要求“遺忘”的數(shù)據(jù)，造成法律風險
不安全的數(shù)據(jù)存儲	數(shù)據(jù)整理	不安全的數(shù)據(jù)存儲環(huán)境或配置管理缺陷，可能導致數(shù)據(jù)泄露，造成數(shù)據(jù)隱私泄露

算法訓練與生成階段包括模型選型實現(xiàn)及模型訓練測試兩個流程：

1.模型選型實現(xiàn)階段是參照涉及與規(guī)范，選取適當?shù)拈_發(fā)框架、預訓練模型等，對模型進行編碼實現(xiàn)。

2.模型訓練測試階段中訓練過程一般劃分多個批次進行迭代優(yōu)化和驗證，直到滿足性能要求或達到最優(yōu)結(jié)果。測試過程通常依賴大量的現(xiàn)實/模擬數(shù)據(jù)對模型表現(xiàn)進行評估，還包括對抗測試來確保模型抗魯棒性。

模型訓練與生成階段具體風險如表2所示（包括但不限于）：表2

風險	階段	風險描述及危害
預訓練模型后門	模型選型實現(xiàn)	采用的預訓練模型可能引入后門，進行 Fine-Tune后后門可能繼續(xù)存在，造成模型推理時觸發(fā)錯誤預測
聯(lián)邦學習惡意參與者投毒	模型訓練測試	聯(lián)邦學習惡意的參與者可能對數(shù)據(jù)投毒造成整個模型訓練表現(xiàn)下降，或者植入后門
聯(lián)邦學習惡意參與者模型隱私竊取	模型訓練測試	聯(lián)邦學習惡意的參與者可能利用共享的非加密梯度信息恢復相鄰參與者的數(shù)據(jù)
開發(fā)框架&依賴庫漏洞	模型選型實現(xiàn)	AI模型開發(fā)依賴的框架、組件可能存在漏洞，造成模型預測時執(zhí)行惡意程序
不可靠第三方環(huán)境風險	模型訓練測試	目前許多企業(yè)采用公有云訓練環(huán)境，可能由于公有云安全問題，造成數(shù)據(jù)及模型泄露，或被植入后門

上市后產(chǎn)品部署應用階段包括產(chǎn)品部署使用和模型更新兩個流程：

1.產(chǎn)品部署使用階段是將算法部署到相應的業(yè)務流程、系統(tǒng)環(huán)境中，根據(jù)輸入計算推理結(jié)果。算法使用可能涉及到從物理世界向數(shù)字平面轉(zhuǎn)換等數(shù)據(jù)采集、預處理過程，也涉及到與系統(tǒng)、軟件、硬件及第三方環(huán)境的集成和數(shù)據(jù)聯(lián)動。

2.算法更新可分為算法驅(qū)動型更新和數(shù)據(jù)驅(qū)動型更新。其中，算法驅(qū)動型更新是指人工智能醫(yī)學軟件所用算法、算法結(jié)構(gòu)、算法流程、算法編程框架、輸入輸出數(shù)據(jù)類型等發(fā)生改變。此外，算法重新訓練即棄用原有訓練數(shù)據(jù)而采用全新訓練數(shù)據(jù)進行算法訓練，亦屬于算法驅(qū)動型更新。數(shù)據(jù)驅(qū)動型更新是指僅由訓練數(shù)據(jù)量增加而發(fā)生的算法更新。

產(chǎn)品部署應用階段的具體風險如表3所示（舉例如下）：

表3

風險點	階段	風險描述及危害
數(shù)字對抗樣本	模型部署應用	在數(shù)字形態(tài)的模型輸入中添加定向的噪聲，欺騙模型，做出錯誤的預測
物理對抗攻擊	模型部署應用	將數(shù)字形態(tài)對抗樣本在物理世界中實現(xiàn)，造成模型錯誤預測，也可以定向添加噪聲
模型后門觸發(fā)	模型部署應用	輸入數(shù)據(jù)中具有特定的模式，促使模型給出指定的結(jié)果，與正常推理相違背
模型竊取	模型部署應用	模型參數(shù)被竊取，AI模型被逆向獲取，造成企業(yè)核心競爭力AI資產(chǎn)損害
模型逆向	模型部署應用	構(gòu)造特殊的輸入及查詢模型，通過輸出結(jié)果來還原輸入數(shù)據(jù)(可為訓練集中樣本)，從而造成數(shù)據(jù)隱私泄露
成員推理攻擊	模型部署應用	利用模型輸出置信度分布特征，判斷某一樣本數(shù)據(jù)是否在訓練數(shù)據(jù)集中，造成訓練集中數(shù)據(jù)隱私泄露
對抗資源消耗攻擊	模型部署應用	利用對抗手段分析模型推理資源消耗，構(gòu)造樣本造成模型推理損耗提高，造成拒絕服務
輸入預處理攻擊	模型部署應用	攻擊者對輸入預處理方法（例如圖片的預處理縮放算法）進行攻擊，向其中定向插入擾動，使得輸入發(fā)生頂下擾動，欺騙模型做出錯誤預測
反饋更新投毒	模型更新	很多模型引入了用戶反饋對模型進行更新，攻擊者利用投毒反饋數(shù)據(jù)來對模型進行“誘導”，為攻擊謀利
AI硬件后門	模型部署應用	硬件環(huán)境中植入后門，在模型部署后使用該硬件執(zhí)行時觸發(fā)后門
模型部署文件篡改	模型部署應用	模型部署環(huán)境可能存在漏洞，導致模型文件被惡意篡改，植入后門或者竊取信息
AI模型側(cè)信號竊取	模型部署應用	利用AI模型運行時CPU、內(nèi)存等資源進行側(cè)信道分析，能夠?qū)崿F(xiàn)對模型的關(guān)鍵信息竊取
軟件&系統(tǒng)漏洞	模型部署應用	模型所屬業(yè)務系統(tǒng)，與傳統(tǒng)軟件&系統(tǒng)安全面臨的威脅相同，可能導致模型泄露或執(zhí)行惡意程序
AI模型濫用	模型部署應用	AI模型服務被攻擊者利用做惡意用途，可能造成危害

產(chǎn)品制造商按照產(chǎn)品特點對產(chǎn)品本身的風險進行分析，提供風險管理文檔，基于風險分析。并在全生命周期中持續(xù)關(guān)注網(wǎng)絡(luò)安全問題，包括但不限于設(shè)計開發(fā)、生產(chǎn)、分銷、部署、更新維護、上市后監(jiān)測等。重點關(guān)注數(shù)據(jù)采集、數(shù)據(jù)集構(gòu)建、算法學習、云計算、遠程控制和外部軟件環(huán)境等網(wǎng)絡(luò)安全風險點?；诒Ｃ苄?、完整性、可得性等網(wǎng)絡(luò)安全特性，確定人工智能醫(yī)學軟件網(wǎng)絡(luò)安全能力建設(shè)要求。

四. 網(wǎng)絡(luò)安全能力

人工智能醫(yī)學軟件產(chǎn)品網(wǎng)絡(luò)安全的保障，是用戶、網(wǎng)絡(luò)設(shè)施提供方與注冊人共同參與的結(jié)果。注冊人可以通過參考醫(yī)療器械網(wǎng)絡(luò)安全相關(guān)標準和技術(shù)報告，識別人工智能醫(yī)學軟件產(chǎn)品的網(wǎng)絡(luò)安全能力，進行網(wǎng)絡(luò)安全風險控制。注冊人在對這些網(wǎng)絡(luò)安全能力進行配置以配合用戶進行網(wǎng)絡(luò)安全風險管理時，應綜合考慮人工智能醫(yī)學軟件產(chǎn)品的預期用途與使用場景限制，對于網(wǎng)絡(luò)安全威脅應必要的識別、保護能力和適當?shù)奶綔y、響應、恢復能力，通用能力詳見《醫(yī)療器械網(wǎng)絡(luò)安全審查指導原則》中22項網(wǎng)絡(luò)安全能力，此外針對人工智能醫(yī)學軟件提出2項新增網(wǎng)絡(luò)安全能力。開發(fā)商應該決策網(wǎng)絡(luò)安全能力：

1.訓練數(shù)據(jù)保護驗證

產(chǎn)品確保在數(shù)據(jù)構(gòu)建階段有效保護訓練數(shù)據(jù)的能力，如提供安全的存儲環(huán)境、完備的安全配置、確保數(shù)據(jù)不被惡意修改等，并確保訓練數(shù)據(jù)得到用戶授權(quán)。

2.模型訓練生成階段依賴的環(huán)境和庫的安全

確保有訓練環(huán)境、開發(fā)框架、組件、依賴庫安全性能的驗證能力。

基于以上所述網(wǎng)絡(luò)安全能力，申請人應逐項分析所申報人工智能醫(yī)學軟件對于該項網(wǎng)絡(luò)安全能力的適用性，若適用明確網(wǎng)絡(luò)安全能力的實現(xiàn)方式，可通過產(chǎn)品自身功能實現(xiàn)，亦可通過必備軟件、外部軟件環(huán)境等外部措施實現(xiàn)。反之說明不適用的理由。

五、網(wǎng)絡(luò)安全技術(shù)考量

（一）軟件全生命周期

1.數(shù)據(jù)采集

采集的數(shù)據(jù)應進行數(shù)據(jù)脫敏以保護患者隱私，數(shù)據(jù)脫敏應描述用于保護受試者隱私的技術(shù)手段，如數(shù)據(jù)去標識化、數(shù)據(jù)匿名化等。數(shù)據(jù)轉(zhuǎn)移應明確轉(zhuǎn)移方法，轉(zhuǎn)移方法應保證數(shù)據(jù)的安全，如對數(shù)據(jù)進行加密壓縮、通過硬盤拷貝等方法。

2.數(shù)據(jù)整理

需在封閉或受控的網(wǎng)絡(luò)環(huán)境下開展以防止數(shù)據(jù)污染。

3.數(shù)據(jù)標注

應有防止數(shù)據(jù)污染的防護措施，特別是在開放網(wǎng)絡(luò)環(huán)境下。如標注軟件部署在云服務器，應提供云服務商的名稱、住所和資質(zhì)，明確云服務的服務模式、部署模式、確保云服務器的網(wǎng)絡(luò)安全能力。

4.數(shù)據(jù)集構(gòu)建

需在封閉或受控的網(wǎng)絡(luò)環(huán)境下開展以防止數(shù)據(jù)污染，描述數(shù)據(jù)集存儲方式與存儲路徑、安全控制、備份（方法、頻次）、恢復方式，若數(shù)據(jù)集使用云服務存儲，應提供云服務商的名稱、住所和資質(zhì)、訪問路徑、使用權(quán)限等。

5.算法訓練

需在封閉或受控的網(wǎng)絡(luò)環(huán)境下開展以防止數(shù)據(jù)污染，避免訓練數(shù)據(jù)被污染。

6.算法性能評估

需在封閉或受控的網(wǎng)絡(luò)環(huán)境下開展以防止數(shù)據(jù)污染。若基于第三方數(shù)據(jù)庫開展算法性能評估，應保證第三方測評數(shù)據(jù)庫的網(wǎng)絡(luò)安全與數(shù)據(jù)安全。

7.軟件驗證

需在封閉或受控的網(wǎng)絡(luò)環(huán)境下開展以防止數(shù)據(jù)污染，應描述網(wǎng)絡(luò)能力的驗證過程。

8.軟件確認

軟件確認如需要模擬實際情況在開放網(wǎng)絡(luò)下進行，應有防止數(shù)據(jù)污染的防護措施，應描述網(wǎng)絡(luò)能力的確認過程。

9.上市后使用

上市后產(chǎn)品在醫(yī)療機構(gòu)內(nèi)部環(huán)境下運行，需要考慮醫(yī)療機構(gòu)關(guān)于網(wǎng)絡(luò)安全與數(shù)據(jù)安全的接口要求。產(chǎn)品使用時應有用戶訪問控制措施、數(shù)據(jù)傳輸過程應有加密措施等來保證網(wǎng)絡(luò)安全。

所有利益相關(guān)方在軟件全生命周期中主動積極共享網(wǎng)絡(luò)安全相關(guān)信息。注冊申請人需充分利用網(wǎng)絡(luò)安全漏洞披露機制加強人工智能醫(yī)學軟件網(wǎng)絡(luò)安全的設(shè)計開發(fā)和上市后監(jiān)測，如基于國家互聯(lián)網(wǎng)應急中心（CNCERT/CC，www.cert.org.cn）的國家信息安全漏洞共享平臺（CNVD，www.cnvd.org.cn），或其互認的國際信息安全漏洞庫所披露的漏洞信息，定期開展網(wǎng)絡(luò)安全風險管理工作。

注冊申請人需基于相關(guān)標準和技術(shù)報告建立網(wǎng)絡(luò)安全事件應急響應機制，保證人工智能醫(yī)學軟件的安全有效性并保護患者隱私。應制定網(wǎng)絡(luò)安全事件應急響應預案，涵蓋現(xiàn)成軟件要求，明確計劃與準備、探測與報告、評估與決策、應急響應實施、總結(jié)與改進等階段的任務和要求。建立網(wǎng)絡(luò)安全事件應急響應團隊，根據(jù)工作職能形成管理、規(guī)劃、監(jiān)測、響應、實施、分析等工作小組，必要時可邀請外部網(wǎng)絡(luò)安全專家成立專家小組。

根據(jù)網(wǎng)絡(luò)安全事件的嚴重程度、緊迫程度、廣泛程度等因素進行分類分級管理，結(jié)合產(chǎn)品風險級別，按照風險管理要求開展應急響應措施的驗證工作并予以記錄，在事件發(fā)生期間及時告知用戶應對措施。若適用，按照醫(yī)療器械不良事件、召回相關(guān)法規(guī)要求處理；必要時，向國家網(wǎng)絡(luò)安全主管部門報告。

（二）其他考量

1.軟件運行環(huán)境

應滿足軟件運行需要，包括CPU、GPU、RAM、ROM、網(wǎng)絡(luò)、操作系統(tǒng)、數(shù)據(jù)庫等要求。

2. 網(wǎng)絡(luò)通信要求

2.1網(wǎng)絡(luò)架構(gòu)

應保證網(wǎng)絡(luò)架構(gòu)的處理能力和帶寬滿足業(yè)務高峰的需要，軟件的部署位置需要有邊界防護措施，且通信線路、網(wǎng)絡(luò)設(shè)備做好硬件冗余，保證軟件的可用性。

2.2通信傳輸

應采用校驗碼技術(shù)或密碼技術(shù)保證通信過程中數(shù)據(jù)的完整性和敏感信息的保密性。

2.3訪問控制

不允許非授權(quán)設(shè)備或程序聯(lián)到人工智能醫(yī)學軟件所在設(shè)備，不允許人工智能醫(yī)學軟件非授權(quán)用戶訪問并使用軟件?？缇W(wǎng)訪問人工智能醫(yī)學軟件需要設(shè)置訪問控制策略，對源地址、目的地址、源端口、目的端口和協(xié)議等進行檢查，以允許/拒絕訪問。在信息交互過程中應具備內(nèi)容過濾能力，實現(xiàn)對內(nèi)容的訪問控制。

3.主機安全要求

3.1訪問控制

應對登錄主機的用戶進行身份標識和鑒別，身份標識具有唯一性和不可抵賴性，對用戶進行角色設(shè)置，授予所需的最小權(quán)限，制定登錄處理策略，包括限制失敗次數(shù)、連接超時、訪問終端等。定期梳理用戶帳號，及時刪除或停用多余的、過期的和弱口令帳號。

3.2入侵防范

應遵循最小安裝的原則，僅安裝需要的組件和應用程序，關(guān)閉不需要的系統(tǒng)服務、默認共享和高危端口，定期對人工智能醫(yī)學軟件及涉及到的主機、操作系統(tǒng)、中間件進行漏洞掃描、安全檢測和惡意代碼檢測，并及時進行修補。建議醫(yī)療機構(gòu)對主機進行實時安全監(jiān)控，能夠識別違規(guī)操作或攻擊行為，并及時告警。

4.軟件和數(shù)據(jù)安全要求

4.1身份鑒別

應對人工智能醫(yī)學軟件的用戶進行身份標識和鑒別，且具有唯一性和不可抵賴性，限制登錄失敗次數(shù)和連接時長，并對口令進行強制要求，規(guī)避弱口令情況。用戶帳號信息丟失或遺忘時，應采用技術(shù)措施確保重置過程的安全，并對其進行二次驗證，驗證手段至少使用動態(tài)口令、手機驗證碼、密碼技術(shù)、生物特征技術(shù)中的一種實現(xiàn)。

4.2訪問控制

人工智能醫(yī)學軟件應具備訪問控制功能，對用戶能夠分配角色和權(quán)限，權(quán)限需要達到功能級。定期開展帳號梳理工作，及時刪除或停用多余的、過期的帳號。

4.3數(shù)據(jù)安全

應采用密碼技術(shù)保證重要數(shù)據(jù)在傳輸和存儲過程中的安全性，避免未授權(quán)用戶訪問數(shù)據(jù)。密碼技術(shù)的使用應遵循國家相關(guān)要求和規(guī)定。建立數(shù)據(jù)備份和恢復機制，定期開展演練，保證軟件業(yè)務的連續(xù)性。

5.軟件運行對云安全的基本要求

云服務商的名稱、住所和資質(zhì)，明確云服務的服務模式、部署模式、確保云服務器的網(wǎng)絡(luò)安全能力。

六、人工智能醫(yī)學軟件網(wǎng)絡(luò)安全更新

1.網(wǎng)絡(luò)安全更新

人工智能醫(yī)學軟件網(wǎng)絡(luò)安全更新從內(nèi)容上可分為功能更新、補丁更新，類似于增強類軟件更新、糾正類軟件更新。根據(jù)其對人工智能醫(yī)學軟件安全性和有效性的影響程度分為以下兩類：

（1）重大網(wǎng)絡(luò)安全更新：影響到人工智能醫(yī)學軟件的安全性或有效性的網(wǎng)絡(luò)安全更新，即重大網(wǎng)絡(luò)安全功能更新，應申請變更注冊。

（2）輕微網(wǎng)絡(luò)安全更新：不影響人工智能醫(yī)學軟件的安全性與有效性的網(wǎng)絡(luò)安全更新，包括輕微網(wǎng)絡(luò)安全功能更新、網(wǎng)絡(luò)安全補丁更新。輕微網(wǎng)絡(luò)安全更新通過質(zhì)量管理體系進行控制，無需申請變更注冊，待下次變更注冊時提交相應注冊申報資料。

此外，涉及召回的網(wǎng)絡(luò)安全更新，無論功能更新還是補丁更新均屬于重大網(wǎng)絡(luò)安全更新，按照醫(yī)療器械召回相關(guān)法規(guī)要求處理。

網(wǎng)絡(luò)安全更新同樣遵循風險從高原則，即同時發(fā)生重大和輕微網(wǎng)絡(luò)安全更新按重大網(wǎng)絡(luò)安全更新處理。同時，軟件版本命名規(guī)則應涵蓋網(wǎng)絡(luò)安全更新情況，區(qū)分重大和輕微網(wǎng)絡(luò)安全更新。

2.重大網(wǎng)絡(luò)安全更新判定原則

網(wǎng)絡(luò)安全功能更新若影響到人工智能醫(yī)學軟件的預期用途、使用場景或核心功能原則上均屬于重大網(wǎng)絡(luò)安全更新，包括但不限于：產(chǎn)品預期運行的網(wǎng)絡(luò)環(huán)境發(fā)生改變，如由封閉網(wǎng)絡(luò)環(huán)境變?yōu)殚_放網(wǎng)絡(luò)環(huán)境、局域網(wǎng)變?yōu)閺V域網(wǎng)；產(chǎn)品網(wǎng)絡(luò)安全能力發(fā)生實質(zhì)性改變，如自動注銷能力由操作系統(tǒng)自帶功能實現(xiàn)改為產(chǎn)品自身功能實現(xiàn)、物理防護能力由有變無等。

除非影響到人工智能醫(yī)學軟件的安全性或有效性，以下網(wǎng)絡(luò)安全功能更新和網(wǎng)絡(luò)安全補丁更新通常視為輕微網(wǎng)絡(luò)安全更新：產(chǎn)品預期運行的網(wǎng)絡(luò)環(huán)境數(shù)據(jù)傳輸效率單純提高，產(chǎn)品網(wǎng)絡(luò)安全能力發(fā)生非實質(zhì)性改變；外部軟件環(huán)境的網(wǎng)絡(luò)安全補丁更新。

七、注冊申報相關(guān)要求

申請人根據(jù)《人工智能醫(yī)療器械注冊審查指導原則》、《醫(yī)療器械網(wǎng)絡(luò)安全技術(shù)審查指導原則》、《醫(yī)療器械軟件技術(shù)審查指導原則》、《移動醫(yī)療器械技術(shù)審查指導原則》等相關(guān)指導原則要求，提交相應注冊申報資料。

申請人應依據(jù)《醫(yī)療器械網(wǎng)絡(luò)安全注冊技術(shù)審查指導原則》提交網(wǎng)絡(luò)安全描述文檔。其中，基本信息應圍繞數(shù)據(jù)類型進行描述；風險管理、驗證與確認應基于24項網(wǎng)絡(luò)安全能力進行分析和實施，不適用項詳述理由；可追溯性分析報告應追溯網(wǎng)絡(luò)安全需求、設(shè)計、測試、風險管理的相互關(guān)系；維護計劃應包含網(wǎng)絡(luò)安全日常維護計劃、網(wǎng)絡(luò)安全事件應急響應預案。

若使用云計算服務、移動計算終端，生產(chǎn)企業(yè)應依據(jù)《移動醫(yī)療器械注冊技術(shù)審查指導原則》提交相應研究資料。其中，使用云計算服務應明確服務模式、部署模式、核心功能、數(shù)據(jù)接口、網(wǎng)絡(luò)安全能力、服務（質(zhì)量）協(xié)議等要求；使用移動計算終端應結(jié)合終端的類型、特點、使用風險明確相應性能指標要求。

八、編寫單位

廣東省藥品監(jiān)督管理局審評認證中心、華為終端有限公司、騰訊醫(yī)療健康（深圳）有限公司、深圳邁瑞生物醫(yī)療電子股份有限公司

九、參考文獻

[1]醫(yī)療器械監(jiān)督管理條例[Z].

[2]醫(yī)療器械注冊與備案管理辦法[Z].

[3]醫(yī)療器械軟件注冊技術(shù)審查指導原則（2022年修訂版）[Z].

[4]醫(yī)療器械網(wǎng)絡(luò)安全注冊技術(shù)審查指導原則[Z].

[5]人工智能醫(yī)療器械注冊審查指導原則[Z]

[6] YY/T 0316,醫(yī)療器械風險管理對醫(yī)療器械的應用[S].

[7]?YY/T 1833.1,人工智能醫(yī)療器械質(zhì)量要求和評價第1部分：術(shù)語[S].

[8] YY/T 1833.2,人工智能醫(yī)療器械質(zhì)量要求和評價第2部分：數(shù)據(jù)集通用要求[S].

[9]?YY/T 1833.3,人工智能醫(yī)療器械質(zhì)量要求和評價第3部分：數(shù)據(jù)標注通用要求[S].

[10]?YY/T 1843-2022 ?醫(yī)用電氣設(shè)備網(wǎng)絡(luò)安全基本要求[S]

[11]?N. Papernot A Marauder’s Map of Security and Privacy in Machine Learning: https://arxiv.org/pdf/1811.01134.pdf

[12] A Taxonomy and Terminology of 3 Adversarial Machine Learning." Draft NISTIR 8269?

返回列表

相關(guān)資訊

媒體品牌合作

草莓视频app下载|51草莓视频下载app|草莓视频在线观看无限看

【廣東】人工智能醫(yī)學軟件網(wǎng)絡(luò)安全技術(shù)審評指導原則發(fā)布