10月17日下午，百度世界·度小滿金融大模型前沿發(fā)展論壇在北京召開，中國工程院院士鄔賀銓在大會上表示“金融大模型改變了金融科技的范式，重塑金融行業(yè)的工作方式，改變了金融服務(wù)生態(tài)。”

中國工程院院士鄔賀銓發(fā)表主題演講

目前金融大模型已經(jīng)應(yīng)用在金融資訊、產(chǎn)品介紹內(nèi)容的文本自動生成，構(gòu)建虛擬客服在線交互等方面，給用戶提供更人性的服務(wù)，提升金融機(jī)構(gòu)內(nèi)容運(yùn)營的效率。

鄔賀銓指出，金融大模型的發(fā)展需要全行業(yè)共同參與，合作開發(fā)，“基礎(chǔ)大模型多數(shù)從通用語料訓(xùn)練生成，通識能力強(qiáng)，可作聊天對話，但缺少行業(yè)專業(yè)知識，需要大模型提供方與垂直行業(yè)合作開發(fā)行業(yè)大模型”。

以度小滿的開源金融大模型“軒轅”為例，它是將預(yù)訓(xùn)練數(shù)據(jù)（一般預(yù)訓(xùn)練、金融預(yù)訓(xùn)練）和指令數(shù)據(jù)（一般指令、金融指令）隨機(jī)混洗到一個訓(xùn)練數(shù)據(jù)中進(jìn)行混合微調(diào)，通過多階段逐漸訓(xùn)練緩解預(yù)訓(xùn)練和微調(diào)間數(shù)據(jù)不匹配問題，提高模型的表達(dá)、理解、遷移和泛化能力。

度小滿CEO朱光表示，“未來五年，生成式AI在金融領(lǐng)域的應(yīng)用，將成為度小滿最重要的戰(zhàn)略方向。度小滿將不斷加大金融垂類大模型及應(yīng)用的布局和投入，和業(yè)界一起把握機(jī)遇，推動新一輪金融科技發(fā)展浪潮。”

鄔賀銓認(rèn)為，金融大模型的發(fā)展目前仍面臨著三方面挑戰(zhàn)。首先是金融行業(yè)對數(shù)據(jù)安全性、隱私合規(guī)性都有著嚴(yán)格的要求。尤其是在風(fēng)控方面，對時效性與精準(zhǔn)性要求嚴(yán)格，而一般的基礎(chǔ)大模型透明性、可信性、專業(yè)性不足，很難直接遷移為金融大模型。

第二點是金融大數(shù)據(jù)在成本與質(zhì)量上的平衡問題。由于金融行業(yè)內(nèi)的數(shù)據(jù)難以共享，因此金融大模型的數(shù)據(jù)規(guī)模遠(yuǎn)遠(yuǎn)不及通用語料，導(dǎo)致金融大模型難以產(chǎn)生“智能涌現(xiàn)”的效果。

第三則是本地私有部署需要自建算力設(shè)施，對軟硬件產(chǎn)品有嚴(yán)格的信創(chuàng)要求，而且參數(shù)規(guī)模大則算力成本高。

對于金融大模型的落地應(yīng)用途徑，鄔賀銓院士建議：一是從可控入手開發(fā)應(yīng)用，例如智能客服、智能運(yùn)營、寫文章、寫郵件等安全的領(lǐng)域出發(fā)。二是從人機(jī)混合智能切入，例如在初期階段先讓金融大模型與傳統(tǒng)模型共存，經(jīng)應(yīng)用考驗后再將金融大模型逐步替代傳統(tǒng)模型。同時還可以通過變換場景，豐富大模型的場景遷移學(xué)習(xí)能力，或加入反事實的數(shù)據(jù)來測試，改進(jìn)AI的學(xué)習(xí)本質(zhì)，提高模型的泛化能力。也可以在金融大模型訓(xùn)練或微調(diào)時通過有監(jiān)督學(xué)習(xí)思維鏈的模式，通過專家介入引導(dǎo)它一步一步地進(jìn)行思維推理。

中國工程院院士鄔賀銓（左）與度小滿CEO朱光（右）交流

“此外，還需要建立專門的監(jiān)控系統(tǒng)，例如微軟專門構(gòu)建內(nèi)容管理系統(tǒng)，它與語言模型協(xié)同工作，并使用特定算法檢測和監(jiān)控可能發(fā)生的服務(wù)濫用或有害內(nèi)容生成情況。”鄔賀銓院士指出。