重慶兩江新區舉行金融大模型發展論壇 院士專家建言金融大模型需更注重可信安全

“金融行業作為人工智能應用要求高、場景豐富，是大模型技術和算法突破的沃土。”8月28日，在重慶兩江新區舉行的金融大模型發展論壇暨馬上消費金融大模型發布會上，中國工程院院士倪光南表示。

中國工程院院士、浙江大學求是特聘教授譚建榮在論壇上作報告。受訪者供圖

論壇上，多位院士專家圍繞生成式人工智能和金融大模型展開了討論。

中國工程院院士、浙江大學求是特聘教授譚建榮，講解了大模型的關鍵技術與發展趨勢。他介紹，過去的人工智能強調因果關系，而現在大數據強調關聯關系，從不確定性中尋找確定性，從變量中找出不變量。

“生成式人工智能三大技術特征就是大數據、大模型和大算力。”譚建榮表示，生成式人工智能是基于知識工程和知識圖譜的大模型，知識工程就是從數據里凝練出知識，這是人工智能的核心，其目的還是提高人們借助現代化工具利用信息的能力。

“生成式人工智能的基本定位還是智力勞動者的助手。”歐洲科學院外籍院士、清華大學人工智能研究院常務副院長孫茂松表示，生成式人工智能不會把一個行業整體取代。它的特點是一定會出錯，如ChatGPT是通用大模型對文本語言比較重視，對數字其實不敏感，所以有時候會答非所問。通用大模型的落地也是一大挑戰，如用在金融領域就很有可能出現“雞同鴨講”的情況。

“坦誠地講，在工業領域、金融領域，通用大模型還有四個關鍵的難題。”馬上消費首席信息官蔣寧表示，通用大模型目前還面臨關鍵性任務和動態適應性、個性化要求和隱私保護、群體智能與安全可信和基礎設施的能力四大難題。

應對人工智能風險方面，國際系統與控制科學院院士、重慶國家應用數學中心主任楊新民表示，隨著大模型的開放開源，深度合成技術的非法使用存在加速積聚的風險。

針對提升大模型應用的可信實踐，中國信息通信研究院副總工程師王愛華在致辭中表示：“可信人工智能實踐的路徑逐步清晰。人工智能發揮作用越大，它對于安全可信的要求也是越高的。當從業者自身把安全和一些問題作為發展第一要務的時候，說明這個技術在整個領域會進行應用。”

全國首個零售金融大模型——“天鏡”發布。受訪者供圖

會上，馬上消費金融股份有限公司（以下簡稱馬上消費）發布全國首個零售金融大模型——“天鏡”。“我們希望在任何情況下‘天鏡’給客戶的回答，給所有的員工的回答是合規的，并且在任何不可預期的情況下它的結果是穩定的。”蔣寧表示，馬上消費已形成“三縱三橫”的大模型發展技術布局。所謂三縱，是指實時人機協作、多模態智能、數據決策智能，在數據領域實現智能化，實現結構性數據判別式模型的綜合能力。三橫即是指持續學習、模型合規、組合式AI形成安全、合規、可信的魯棒性技術能力，確保讓模型越用越聰明，同時更穩定、更安全可控。

基于此，中國信通院、重慶國家應用數學中心和馬上消費牽頭發起，阿里云、復旦大學金融科技研究院、騰訊云、中國科學院自動化研究所等單位聯合倡議發起“金融大模型可信安全驗證與聯合創新行動計劃”。