AIGC的深入發展和快速普及,打開了智能世界廣袤的想象空間,但在技術成果涌現之際,隨之而來的模型安全、數據安全、內容安全問題也日益凸顯,如何應對AIGC引發攻防范式轉化的新趨勢,如何規避數據和隱私泄露風險,有效保障內容生成的安全合規,正成為擺在行業面前的切實難題。
近日,在紫光股份旗下新華三集團2024媒體與分析師溝通會上,新華三集團高級副總裁、新華三信息安全技術有限公司總裁孫松兒接受多家媒體專訪,深入分享了新華三主動安全3.0在全面智能化升級、創新場景新范式以及全面國產化三大維度的能力進化,為強化AIGC數據安全治理,落實AIGC應用規范,推動業務安全防護帶來了全新的解題思路。
新華三集團高級副總裁新華三信息安全技術有限公司總裁孫松兒
安全×AI 提升安全能力正向循環
對于AIGC為代表的大模型技術及其應用而言,發展和安全是一體兩翼的統一整體,必須統籌規劃、同步推進。孫松兒表示,新華三集團安全視角下的AIGC是基于“主動安全”理念,首先滿足大模型應用的安全新需求,同時將AIGC作為新工具、新能力,賦能安全能力的提升,即“安全是保障AIGC實戰的核心基石,AIGC是提升安全能力的最佳手段”。為實現AIGC發展與安全能力提升的正向循環,基于靈犀大模型的AI能力,新華三重磅打造靈犀助手,為安全體系建設、運營效率提升、業務持續發展注入更深層次的智能,并提出大模型安全合規與防護新思路——以靈犀衛士實現大模型安全防護,以靈犀助手實現大模型賦能安全。
大模型自身的安全防護,貫穿從訓練階段到運行階段的全過程,需要解決垂直領域大模型訓練難點、大模型環境網絡攻擊風險以及大模型生成內容合規風險等諸多難題。其中,內容安全合規是大模型發展的第一要務,國家網信辦發布的《生成式人工智能服務管理辦法(征求意見稿)》中,著重強調了安全合規的重要性。面對AIGC內容安全要求,孫松兒認為應從輸入側、模型側、輸出側三個層面著手,對違規信息進行過濾和規避。為此,新華三集團構建了完整的AIGC內容安全防護體系,通過Prompt審核與改寫、生成內容過濾、紅線知識庫等方式,靈犀衛士可監測用戶輸入和生成內容,識別各類違規風險,全面保障內容合規,整體內容風險可下降近80%。? ?
在大模型賦能安全方面,孫松兒指出,安全大模型正在引發“效率革命”,為安全運營帶來跨越式提升。以大模型技術打造的靈犀助手,現已全面內嵌到安全產品、管理平臺及各類運營運維工具中,通過安全使能平臺打通大模型和業務場景,在攻擊研判、資產梳理、合規檢查、智能預測等方面實現全方位的運營效率提升。比如在失陷事件研判中,通過AIGC輔助分析,研判效率可提升50%,在風險響應處置中,AIGC可根據訓練經驗直接給出準確的處置建議,快速生成處置報告,實現風險處置的事半功倍,讓人力從繁雜的基礎工作中解放出來。
打造場景化新范式 賦能網絡安全場景化落地
從技術研發到實際應用,網絡安全如何跨越實驗室與產業鏈的鴻溝,在具體行業和場景中實現價值的實質性提升,是當前行業關注的焦點。對此,孫松兒表示,當下垂直行業的安全需求差異較大,需要建立場景化思維捕捉不同行業的實際安全需求,構建基于客戶業務本身的場景化新范式。
在場景化探索方面,新華三集團深耕車聯網、數字政府、運營商等重點行業場景,為多場景業務打造按需交付的算網安融合解決方案,通過構建分布式安全資源池,借助SRv6彈性可編程、性能可度量、隔離有保障的優勢,實現網絡與安全服務的端到端業務鏈打通與安全編排,保障數據和業務的安全穩定運行。在車聯網安全領域,新華三面向車路協同、車聯網運營以及車聯網人才培養場景,打造車聯網安全解決方案,全面保障車聯網端側、路側及云端安全。而圍繞數據流轉的全生命周期,新華三打造了基于AI的數據安全治理與運營平臺,以大模型技術賦能數據分類分級、數據動態圖譜及數據安全管理,實現數據流通的可感、可知、可管、可控。??
全面國產化 樹立國產化安全新標桿
此外,新華三集團全面深化安全產品體系及國產化布局,推出業內首個內嵌AIGC的旗艦防火墻產品,打造全面支持國產化的安全運營中心、數據安全治理中心以及云安全平臺,樹立國產化安全能力新標桿,40+安全原子能力全面適配國產化,包括主流的國產化操作系統及軟硬件,全面保障終端、邊界、應用以及數據安全。? ?
作為新質生產力的代表,AIGC是新一輪產業變革的核心引擎,網絡安全則是護航AIGC行穩致遠的基石底座。作為網絡安全領域的領軍企業,新華三集團將秉持“精耕務實,為時代賦智慧”的理念,持續推進“安全×AI”的技術創新和場景化應用,以網絡安全和AIGC的雙向賦能,助力百行百業在數字化轉型之路上鏗鏘前行。
相關稿件