國家工業(yè)信息安全發(fā)展研究中心近日在京主辦人工智能融合發(fā)展與安全應用研討會。國家語音及圖像識別產(chǎn)品質(zhì)量檢驗檢測中心（簡稱AI國檢中心）在會上發(fā)布首批人臉識別系統(tǒng)安全測評結果。騰訊云、京東科技、商湯科技、曠視科技、?？低暤攘覚C構成為首批通過測評的企業(yè)。
作為人工智能領域最具商業(yè)價值的技術方向，人臉識別廣泛應用在安防、金融、交通、教育等領域，但在技術層、應用層仍面臨安全挑戰(zhàn)，漏洞攻擊、數(shù)據(jù)泄漏、技術濫用等問題經(jīng)常成為社會焦點。因此，作為人工智能領域的國家級第三方檢驗檢測機構，AI國檢中心對人臉識別系統(tǒng)安全啟動測評工作，對市場主流人臉識別系統(tǒng)開展測試評估，規(guī)范人臉識別產(chǎn)業(yè)健康發(fā)展。
國家工業(yè)信息安全發(fā)展研究中心人工智能所副所長劉永東說，人臉識別系統(tǒng)安全風險主要涵蓋算法安全、數(shù)據(jù)安全和應用軟件安全等維度。本次測評對人臉識別系統(tǒng)的安全風險提供明確的測試方法，包括算法層面的活體檢測+假體攻擊等。
清華大學人工智能研究院孵化企業(yè)瑞萊智慧高級副總裁朱萌提出兼顧“主動”和“被動”的技術防御機制。被動防御是為人臉應用部署靜態(tài)的安全能力，比如人臉AI
防火墻，對外部訪問等進行檢測，提升人臉系統(tǒng)抵御攻擊的能力。主動防御則是引入和強化安全團隊力量，比如打造攻防演練靶場，幫助企業(yè)構建自適應、自生長的安全能力。
據(jù)悉，本次測評是國內(nèi)首次面向人臉識別系統(tǒng)安全性的國家級檢測與評估，依據(jù)《信息安全技術人臉比對模型安全技術規(guī)范》等現(xiàn)行和在研的有關國家和行業(yè)標準，通過呈現(xiàn)攻擊、注入攻擊等技術手段對人臉識別產(chǎn)品和服務進行全方位測試，有效評估人臉識別的安全風險。
