中國經濟網北京3月3日訊(記者 關婧)全國政協十四屆二次會議將于2024年3月4日在北京召開,第十四屆全國政協委員、360集團創始人兼董事長周鴻祎就人工智能領域、通用大模型安全問題帶來了相關提案。
周鴻祎委員表示,通用大模型作為人工智能發展的核心引擎,正引發全球新一輪產業技術變革。我國發展大模型的重要方向應該是借助產業和場景的優勢,將大模型與業務流程、產品功能相結合,尋求多場景應用、垂直化和產業化的落地,助力加快形成新質生產力。
同時,周鴻祎委員認為通用大模型的安全,是保障人工智能技術可持續發展、實現廣泛應用的重要基礎,他建議研究制定保障通用大模型安全的標準體系,推動通用大模型開展安全評測、接入安全服務,并給予兼具“安全和AI”能力的企業專項扶持政策,更好地發揮其作用。
支持大模型向垂直化、產業化方向發展
周鴻祎委員表示,通用大模型雖然是“通才”,但缺乏行業深度,試圖用一個大模型解決所有企業問題不現實。“通用大模型與組織內部業務結合不緊密,不能完全滿足企業級應用場景的垂直性、專業性問題,同時還存在數據安全隱患。”他對中國經濟網記者說到。
“大模型像發動機,不是用來秀的,而是要與業務相結合,特別是傳統制造業,大模型是推動數轉智改的利器。”周鴻祎委員指出,企業用大模型不能冒進,而是要用AI逐步改造業務,循序漸進,在實踐中要拆分場景具體分析,在業務流程上找準切入點,選擇與大模型成熟能力匹配的業務環節切入。
周鴻祎委員認為,垂直大模型相較通用大模型,調試和部署成本更低,訓練時間更少,性價比更高,同時垂直大模型所需要算力也更小。他建議政府和央國企持續提供更多應用場景,為發展垂直化、小型化、低成本的大模型開放更多“小切口、大縱深”的落地機會,助力百行千業數字化轉型,實現“數轉智改”。
建議制定保障通用大模型安全的標準體系
在Open AI系列模型工具發布后,AGI(通用人工智能)的進步速度極快,周鴻祎委員認為應注意術安全和內容安全等風險。“技術安全主要涉及大模型技術本身引發的安全問題,如網絡、數據和生成內容的安全;內容安全則是對大模型的控制、濫用、誤用和惡意應用等問題。”他說到。
周鴻祎委員指出,安全需要貫穿通用大模型的整個構建過程,他建議在內容安全、數據安全、科技倫理、網絡安全等細分領域,由相關部門牽頭研究制定安全檢測標準,在規范的安全標準體系下,推動通用大模型的安全評測工作,通過接入安全服務來保障大模型的安全。
同時,國內大模型企業不熟悉內容安全、數據安全、科技倫理、網絡安全等人工智能帶來的挑戰,另一方面,大部分網絡安全公司又很少真正有能力深入大模型研究,上述兩方面原因導致國內大模型安全領域成為整個產業鏈的薄弱環節。周鴻祎委員建議有關部門鼓勵并扶持兼具“安全和AI”能力的企業,給予專項扶持政策,支持企業擔起大模型安全重擔,聚焦攻堅,為解決通用大模型安全問題提供堅實保障。
相關稿件