近年來，隨著人工智能產(chǎn)業(yè)的高速發(fā)展，如何利用大模型技術來有效提升網(wǎng)絡安全保障水平已成為網(wǎng)絡安全領域的熱點研究方向。針對當前網(wǎng)絡安全行業(yè)存在的安全能力不足、運營效率低下、產(chǎn)品協(xié)同困難、安全專家缺乏等諸多問題，國內(nèi)眾多網(wǎng)絡安全從業(yè)組織正積極探索大語言模型等人工智能技術在安全領域的應用，并相繼推出各具特色的安全大模型相關產(chǎn)品，以提升整體網(wǎng)絡安全保障能力。
為進一步規(guī)范安全大模型的設計、開發(fā)與應用，中國信息通信研究院(簡稱“中國信通院”)依托人工智能產(chǎn)業(yè)聯(lián)盟(AIIA)安全治理委員會，聯(lián)合多方研制了《安全大模型能力要求及評估方法》系列規(guī)范，共包含5部分。其中，《安全大模型能力要求與評估防范 第1部分：總體框架》和《安全大模型能力要求與評估防范 第2部分：基礎網(wǎng)絡安全》已于近日正式發(fā)布。
《安全大模型能力要求與評估方法 第1部分：總體框架》
文件規(guī)定了安全大模型所覆蓋能力的總體框架和評估方法。安全大模型的架構分為基礎設施層、通用安全能力和安全原子能力三層。安全大模型的研發(fā)旨在解決各類復雜的安全應用場景需求，通用安全能力和安全原子能力以不同的組合方式可以滿足不同安全應用場景的需求。文件適用于網(wǎng)絡安全大模型的研究開發(fā)、建設部署的相關組織，也適用于安全大模型使用方或第三方評測機構開展能力測試與產(chǎn)品選型。
安全大模型總體框架圖
1. 安全大模型包含如下三層：
(1)基礎設施層：基礎設施層包含了支撐大模型運行的算力、模型和數(shù)據(jù)。
(2)通用安全能力：包括了安全問答、安全語言翻譯、安全數(shù)據(jù)處理、安全任務編排、安全工具調(diào)用、安全告警研判、安全報告生成、大模型內(nèi)生安全等通用能力。
(3)安全原子能力：包括了安全大模型可具備的基礎網(wǎng)絡安全能力、數(shù)據(jù)安全能力、內(nèi)容安全能力和業(yè)務安全能力。
2. 安全應用場景場景包括：
安全運營、態(tài)勢分析、安全管理、事件研判、安全技術防護、風險評估、攻防等場景。
《安全大模型能力要求與評估方法 第2部分：基礎網(wǎng)絡安全》
文件規(guī)定了安全大模型基礎網(wǎng)絡安全領域應具備的能力以及相應的評估流程與方法，適用于安全大模型基礎網(wǎng)絡安全能力部分的研究開發(fā)、建設部署的相關組織，也適用于網(wǎng)絡安全大模型使用方或第三方評測機構開展能力測試與產(chǎn)品選型。
文件主要對安全大模型基礎網(wǎng)絡安全應具備的原子能力提出了具體要求，包括安全大模型可具備的惡意流量檢測、入侵檢測、訪問控制、漏洞檢測、惡意代碼檢測、滲透測試、攻擊面檢測溯源、WEB攻擊檢測、惡意郵件檢測、代碼審計、威脅情報分析、威脅狩獵等能力，同時對安全大模型應具備的通用安全能力進行了詳細描述。
中國信通院將繼續(xù)開展安全大模型系列規(guī)范的研制工作，圍繞數(shù)據(jù)安全、內(nèi)容安全、業(yè)務安全等方向編制相關標準，提升人工智能大模型等新技術產(chǎn)品變革與行業(yè)應用能力提升，歡迎業(yè)界同仁共同參與。
