記者從在北京召開的2024全球數字經濟大會數字安全高層論壇暨北京網絡安全大會產業峰會（以下簡稱“BCS產業峰會”）上獲悉，人工智能極大提升了工作學習效率，但也帶來風險和監管問題。人工智能和機器學習越來越多地應用于威脅檢測、自動化響應、預測分析等網絡安全防護工作。要更加重視人工智能安全防御技術創新，筑牢智能時代網絡安全基石。

　　聯合國副秘書長李軍華

　　聯合國副秘書長李軍華在開幕致辭中說，“不斷發展的數字世界是一個矛盾體。”阿爾塔夫·烏爾·拉赫曼等多位專家現場分享了智能時代網絡安全威脅的種類以及典型的網絡攻擊方式，介紹了當前利用人工智能助力網絡安全躍升的前沿研究和實踐，為構建更加安全穩固的數字安全體系建言獻策。

　　開幕式上，全國工商聯網絡與數據安全委員會召集奇安信集團、聯想集團、中科曙光、中興通訊、中國軟件、長城科技、神州信息、東軟集團、東華軟件、瀾起科技、軟通動力、中國電子云等60家數字經濟產業鏈領軍企業，共同發起《打造“人工智能+安全”新質生產力》倡議，呼吁社會各界攜手合作，凝聚各方智慧和力量，推動人工智能與安全的深度融合，為中國數字經濟保駕護航。
　　AI助力實現四大躍升
　　2024年政府工作報告明確，開展“人工智能+”行動。在BCS產業峰會上，演講嘉賓們認為，人工智能有利于筑牢可信可控的數字安全屏障，至少能夠助力網絡安全實現四大能力躍升。
　　第一，網絡威脅發現能力躍升。通過應用人工智能，可以提升威脅判定的準確度，從海量噪聲中快速、準確地洞察和判定真正的風險。據吳云坤透露，1個安全大模型處理安全告警的能力相當于50～60個網絡安全工程人員。
　　利用大模型進行威脅研判已投入多個應用場景。據苗守野透露，中國聯通基于元景大模型體系，實現檢測+分析+運營的端到端網絡安全能力智能化升級，大模型智能研判平均時間達到秒級，研判準確性達到95%以上，有效助力基礎網絡安全底座的智能化變革。

　　中國聯通集團網絡與信息安全部總經理苗守野

　　第二，病毒檢測效率和精度躍升。人工智能可以增強識別準確度和研判效率，幫助快速準確地從海量樣本中識別出真正的惡意樣本和病毒。吳云坤說，奇安信利用人工智能病毒引擎QDE對132萬多個樣本的檢測結果顯示，QDE的檢出率為97.9%，比傳統病毒引擎高出4.13%，誤報率僅0.009%，遠低于傳統引擎誤報率0.04%。

　　奇安信集團總裁吳云坤

　　第三，安全運營能力提質躍升。人工智能可以替代人工，解放安全專家，突破網絡安全的人力資源邊界，大幅度提升運營能力。吳云坤講到，安全專家每天能夠研判約480條信息，安全機器人每天能夠智能研判30240條信息，“從這個角度看，一臺機器人相當于60位安全專家”。
　　第四，攻防實戰水平躍升。網絡安全領域的創新核心是使用新技術實現網絡空間安全檢測、分析、研判、指揮、響應、處置形成閉環，并不斷提升攻擊方和防守方的實戰水平和工作效率。在吳云坤看來，人工智能能有效的縮短閉環時間，AI加持攻守雙方完成閉環后，可以實現知識經驗再積累，持續提升作戰水平。
　　AI成為安全領域創新熱點
　　“AI驅動安全已經成為網絡安全領域的重要創新熱點?！?吳云坤舉例說，上個月在美國舉行的全球最大網絡安全年度大會（RSAC 2024）發布的新產品中，60%與AI相關，其中創新沙盒十強中有7家是AI方向；我國2024安全創客匯40強的10個創新賽道中，AI安全排在第二位。
　　與此同時，傳統網絡安全行業也正在快速轉型，加快擁抱AI。一些綜合性大型安全企業通過收購、自我研發或生態建設補齊短板，用AI不斷發展完善產品和服務體系，加速建立對抗威脅的閉環，提升安全事件處置的能力和效率。例如，Crowdstrike在推出Charlotte AI之后，把過去分布在不同終端的所有數據整合進AI網絡安全分析工具Charlotte AI，將安全事件響應時間從過去的8小時縮短為幾分鐘。
　　國內頭部科技企業已在同步推進AI在網絡安全領域落地生根。作為網絡安全原創技術策源地總體單位，奇安信以科技創新推動產業創新，于今年3月對外正式發售了“AI驅動安全”的代表性產品：QAX-GPT安全機器人。QAX-GPT安全機器人對真實網絡風險事件研判準確率達到100%，可以消除80%以上無效告警，助力企業網絡安全運營效率提升逾60倍。
　　BCS產業峰會嘉賓一致認為，國家相關政策正在進一步推動AI在網絡安全產業加速布局。
　　“數據是人工智能三要素之一，人工智能模型的訓練需要大量且高質量的數據。”蔣楠說，發展人工智能，需要更加注重數據的收集、清洗、標注和存儲，以確保模型訓練的有效性和科學性。當前，國家發力促進數據要素流通，通過流通實現數據價值，將支撐包括網絡安全在內的人工智能新應用快速發展。

　　中石化集團信息和數字化管理部副總經理蔣楠

　　AI時代呼喚體系安全
　　在BCS產業峰會上，與會嘉賓們提醒，目前的網絡攻擊者不僅利用人工智能技術編寫程序、制造病毒、發起飽和式攻擊，也在針對人工智能防護模型本身的弱點進行“投毒”或“滲透”。與會專家建議，AI時代的網絡安全防護同樣需要突破單點思維，推進體系建設。
　　一方面，網絡攻擊開始面向AI“對癥下藥”。蔣楠舉例說，攻擊者可能進行藥餌攻擊，即針對AI收集日常運營數據自我學習訓練以檢測出新的攻擊這一特性，攻擊者注入精心設計的數據樣本（即藥餌），使訓練數據被污染，給AI“洗腦”，最終危及整個系統的正常功能。
　　要更加重視人工智能安全防御技術創新。具體而言，在AI系統收集數據、訓練模型階段，可以采用網絡蒸餾、對抗訓練、對抗樣本檢測、輸入重構、模型剪枝等多種防御性技術，以防止針對AI的數據投毒式攻擊。
　　當前國內網絡安全防護還沒有真正普及體系化建設。例如，國內安全設備和產品的互操作性標準和規范一度長期缺位，不同網絡安全廠商各自為戰，無法形成協同效應，無法真正落實“AI驅動安全”帶來的威脅檢測能力和安全運營能力提升
　　“AI是知識工程，需要多維數據、多維場景，綜合性廠商比單點技術廠商更具優勢?！眳窃评ふJ為，綜合性廠商基于內生安全建立體系，使單點技術通過體系協同在對抗威脅時發揮最大效能。
　　與會專家們呼吁，網絡安全行業應建立體系化思維，不僅是在企業內部推廣建立協同高效的安全體系，全行業也需要建立更多通用、互認、開源的標準規范和操作體系，實現產品互操作、數據共分享、安全同治理，提升全行業體系安全能力，真正助力數字經濟發展。