北京2024年6月28日 /美通社/ -- 大模型技術的深入應用，正讓金融業務發生翻天覆地的變化。例如，“投顧助手”能夠為用戶提供投資建議，幫助客戶在瞬息萬變的投資市場中把握市場規律，獲得更高的收益；“智能客服”能夠高效響應用戶的服務需求，并給出精準的回復……大模型高效利用海量金融數據，并切實地提升金融業務與服務的智能化水平，在實際金融場景中發揮出重要的價值。
借助浪潮信息AI服務器、AIStation智能業務生產創新平臺等領先的智算基礎設施，國內領先的金融科技企業恒生電子實現算力高效分發、算力資源高效管理，加速了金融行業大模型LightGPT的開發和落地，模型訓練和精調時間周期由數周縮短至數天，應用于客服、運營、投顧、投研等金融業務場景，助力金融行業智能化轉型。
“量身定制”金融大模型，高效訓練是關鍵
恒生電子是一家以“讓金融變簡單”為使命的金融科技公司，致力于為證券、期貨、基金、信托、保險、銀行、交易所、私募等機構提供整體解決方案和服務，連續16年入選FinTech100全球金融科技百強榜單，2023年排名第22位，位列亞洲上榜企業第一。
恒生電子高度重視大模型技術的創新與應用，率先發布了領先的金融行業大模型LightGPT。LightGPT基于海量高質量金融數據訓練，使用超2000億中文tokens和80多項中文金融任務指令微調，涵蓋投研、投顧、智能客服、合規風控等多領域金融應用場景，實現金融相關任務高效、準確理解，顯著超越通用大模型。在測試中，LightGPT的邏輯推理、超長文本處理、多模態交互、代碼、金融專業問答等多項能力都表現突出，表現出極高的準確性和專業水準。同時，LightGPT學習中國的金融法律法規，更符合中國金融市場的監管要求。
就像一個“多面手”，LightGPT綜合能力突出，單個模型即可滿足金融機構眾多應用場景的需求，為投顧、客服、運營、合規、投研、交易等業務系統注入AI能力，加速行業升級和智能化轉型。如在信批材料審計場景，LightGPT可幫助審計員將文檔的審計時間從2小時縮短到5分鐘；在投顧場景，可幫助投資顧問將客戶咨詢問題的平均回答時間由十幾分鐘縮短至幾秒，大幅提升工作效率，提升客戶體驗。
面向不同金融機構的個性化需求，恒生電子需要針對具體業務“量身定制”，對LightGPT進行強化訓練和精調，以提升模型的精度，或輸出符合要求的內容。為了更好地推動大模型的開發和應用，恒生電子希望在AI基礎設施方面進行深度改造。一方面，大模型預訓練與微調需要性能強大、高效易用的算力平臺，租用算力資源雖然可解燃眉之急，但在算力穩定性、安全保障方面存在著隱患。另一方面，大模型的開發運營涉及多團隊、多業務與大量數據，需要有效的任務排隊和調度機制來確保資源的合理分配和高效使用。否則，將導致各團隊搶占算力資源，計算任務下發后需要長時間等待才能得到結果，不僅會影響開發進度，而且會提升成本。
創新智算平臺，提速大模型開發
恒生電子攜手浪潮信息，部署了大模型智算平臺，涵蓋AI服務器、AIStation智能業務生產創新平臺，大幅提升了LightGPT大模型開發和應用效率。
在算力方面，浪潮信息為恒生電子提供了AI服務器，并通過軟硬件一體化的平臺建設模式，實現了上線即使用的應用目標。同時支持靈活擴展，滿足恒生電子業務快速增長對算力資源的靈活需求。
浪潮信息AIStation平臺為恒生電子提供敏捷可靠的大模型開發支持和可擴展的人工智能基礎設施管理能力。AIStation統一管理和調度算力資源，為恒生電子算法工程師提供統一的算法開發環境，實現大模型預訓練、精調和推理測試的完整業務流程。對于千億、百億參數的模型精調，AIStation自動創建分布式訓練環境，為大模型訓練提供高效、穩定的計算環境。AIStation推理服務與恒生的模型測試平臺實現對接，有效提升了模型部署和測試效率。借助AIStation平臺，恒生電子加速了面向投顧咨詢、投資合規、運營管理、客戶服務等金融業務場景的大模型應用的開發和交付。
此外，浪潮信息分享了源大模型項目的開發經驗，以及開源大模型的微調方案和實踐經驗，為恒生電子金融大模型LightGPT的預訓練、微調提供了有力的幫助。
借助大模型智算平臺，恒生電子加速了金融行業大模型LightGPT的開發與上線，模型訓練和精調時間周期由數周縮短至數天。目前，LightGPT已完成國家網信辦大模型算法備案，在客服、運營、投顧、投研等多個金融業務場景落地應用，助力多家頭部金融機構實現了數智能力的進化。此外，恒生電子已聯合20多家金融機構，共建LightGPT金融大模型以及光子系列大模型應用，并不斷提升大模型的技術能力與積淀，助力金融領域業務形態和邏輯范式的革新。
