“模型”谭建荣、倪光南、孙茂松、杨新民院士、马上消费蒋宁共论金融大模型的可信安全

今天，很高兴为大家分享来自封面新闻的谭建荣、倪光南、孙茂松、杨新民院士、马上消费蒋宁共论金融大模型的可信安全，如果您对谭建荣、倪光南、孙茂松、杨新民院士、马上消费蒋宁共论金融大模型的可信安全感兴趣，请往下看。

封面新闻记者 吴雨佳

8月28日，在金融大模型发展论坛上谭建荣、倪光南、孙茂松和杨新民四位院士及100多家金融机构，携手马上消费金融股份有限公司（下称马上消费），共同探讨金融大模型的未来。

“金融行业作为人工智能应用要求高、场景丰富，是大模型技术和算法突破的沃土。今天发布金融大模型，体现了你们在这方面的技术积累，我也十分期待你们在未来推动大模型应用在金融领域的探索和实践,从而带动和加速金融数字化和智能化的发展。”中国工程院院士倪光南这样说。

“今年年初的ChatGPT非常直面，我们感觉到无所不能，但是坦诚讲，在工业领域、金融领域，大模型还有四个关键的难题。”马上消费首席信息官蒋宁开局就直面通用大模型和金融大模型的本质区别。

他表示，大模型目前还面临关键性任务和动态适应性、个性化要求和隐私保护、群体智能与安全可信和基础设施的能力四大难题。他举例表示生成大模型，最大的困难是满腹经纶，回答错了他可以不承担风险，比如自动驾驶，它的刹车、提速、转弯、看灯，外界环境都在变化，对象车在变化，所以绝对不能出错，1%的错都会造成生命财产的损失，这就是金融大模型和传统大模型最大的区别。生成式模型它不能做解释，但是金融大模型最主要的模型叫做判别性，它需要做决策，交易决策。

关于安全的风险，中国工程院院士、浙江大学求是特聘教授谭建荣举了个例子，北京老太太接到远在美国孙子的视频电话，图像、声音都是孙子的，结果却被诈骗了，因此他说“人工智能时代，眼看的不一定是事实，大家要提高警惕。”而马上消费能探索金融大模型，说明了是行业的领头羊，有了数据和模型，才能从不确定的关系转变为确定的关系，从变量中找出不变量。

而应对AI风险方面，全国政协委员、国际系统与控制科学院院士、重庆国家应用数学中心主任杨新民院士表示，随着大模型的开放开源，深度合成技术的非法使用存在加速积聚的风险。

针对提升大模型应用的可信实践，中国信息通信研究院副总工程师王爱华表示“可信人工智能实践的路径逐步清晰。人工智能发挥作用越大，它对于安全可信的要求也是越高的。当从业者自身把安全和一些问题作为发展第一要务的时候，说明这个技术在整个领域会进行应用。”

此外，论坛上还发布了全国首个零售金融大模型——“天镜”，寓意大模型是人类智慧的镜像，推动金融机构高质量发展。以及中国信通院、重庆国家应用数学中心和马上消费牵头发起，阿里云、百行征信、北京火山引擎科技有限公司、中关村科金、毕马威、复旦大学金融科技研究院、朴道征信、腾讯云、中国科学院自动化研究所等联合倡议发起的“金融大模型可信安全验证与联合创新行动计划”。

好了，关于谭建荣、倪光南、孙茂松、杨新民院士、马上消费蒋宁共论金融大模型的可信安全就讲到这。