随着大模型技术的深度渗透，金融行业正经历着前所未有的智能化变革。从“投顾助手”精准导航投资蓝海，到“智能客服”秒速响应客户需求，大模型以其对海量金融数据的深度挖掘与高效利用，正显著提升金融服务的智能化水准，在金融领域的实际应用中展现出无可估量的价值。这一变革的幕后推手，正是包括浪潮信息AI服务器与AIStation智能业务生产创新平台在内的顶尖智算基础设施，它们正携手金融科技企业如恒生电子，共同塑造金融智能化的新未来。
借助浪潮信息AI服务器、AIStation智能业务生产创新平台等领先的智算基础设施，国内领先的金融科技企业恒生电子实现算力高效分发、算力资源高效管理，加速了金融行业大模型LightGPT的开发和落地，模型训练和精调时间周期由数周缩短至数天，应用于客服、运营、投顾、投研等金融业务场景，助力金融行业智能化转型。
“量身定制”金融大模型，高效训练是关键
恒生电子是一家以“让金融变简单”为使命的金融科技公司，致力于为证券、期货、基金、信托、保险、银行、交易所、私募等机构提供整体解决方案和服务，连续16年入选FinTech100全球金融科技百强榜单，2023年排名第22位，位列亚洲上榜企业第一。
恒生电子高度重视大模型技术的创新与应用，率先发布了领先的金融行业大模型LightGPT。LightGPT基于海量高质量金融数据训练，使用超2000亿中文tokens和80多项中文金融任务指令微调，涵盖投研、投顾、智能客服、合规风控等多领域金融应用场景，实现金融相关任务高效、准确理解，显著超越通用大模型。在测试中，LightGPT的逻辑推理、超长文本处理、多模态交互、代码、金融专业问答等多项能力都表现突出，表现出极高的准确性和专业水准。同时，LightGPT学习中国的金融法律法规，更符合中国金融市场的监管要求。
就像一个“多面手”，LightGPT综合能力突出，单个模型即可满足金融机构众多应用场景的需求，为投顾、客服、运营、合规、投研、交易等业务系统注入AI能力，加速行业升级和智能化转型。如在信批材料审计场景，LightGPT可帮助审计员将文档的审计时间从2小时缩短到5分钟；在投顾场景，可帮助投资顾问将客户咨询问题的平均回答时间由十几分钟缩短至几秒，大幅提升工作效率，提升客户体验。
面向不同金融机构的个性化需求，恒生电子需要针对具体业务“量身定制”，对LightGPT进行强化训练和精调，以提升模型的精度，或输出符合要求的内容。为了更好地推动大模型的开发和应用，恒生电子希望在AI基础设施方面进行深度改造。一方面，大模型预训练与微调需要性能强大、高效易用的算力平台，租用算力资源虽然可解燃眉之急，但在算力稳定性、安全保障方面存在着隐患。另一方面，大模型的开发运营涉及多团队、多业务与大量数据，需要有效的任务排队和调度机制来确保资源的合理分配和高效使用。否则，将导致各团队抢占算力资源，计算任务下发后需要长时间等待才能得到结果，不仅会影响开发进度，而且会提升成本。
创新智算平台，提速大模型开发
恒生电子携手浪潮信息，部署了大模型智算平台，涵盖AI服务器、AIStation智能业务生产创新平台，大幅提升了LightGPT大模型开发和应用效率。
在算力方面，浪潮信息为恒生电子提供了AI服务器，并通过软硬件一体化的平台建设模式，实现了上线即使用的应用目标。同时支持灵活扩展，满足恒生电子业务快速增长对算力资源的灵活需求。
浪潮信息AIStation平台为恒生电子提供敏捷可靠的大模型开发支持和可扩展的人工智能基础设施管理能力。AIStation统一管理和调度算力资源，为恒生电子算法工程师提供统一的算法开发环境，实现大模型预训练、精调和推理测试的完整业务流程。对于千亿、百亿参数的模型精调，AIStation自动创建分布式训练环境，为大模型训练提供高效、稳定的计算环境。AIStation推理服务与恒生的模型测试平台实现对接，有效提升了模型部署和测试效率。借助AIStation平台，恒生电子加速了面向投顾咨询、投资合规、运营管理、客户服务等金融业务场景的大模型应用的开发和交付。
此外，浪潮信息分享了源大模型项目的开发经验，以及开源大模型的微调方案和实践经验，为恒生电子金融大模型LightGPT的预训练、微调提供了有力的帮助。
依托大模型智算平台的强大支撑，恒生电子不仅实现了LightGPT金融大模型的快速开发与高效部署，更引领了金融行业数智化转型的浪潮。目前，LightGPT已顺利完成国家网信办大模型算法备案，并在多个核心业务场景如客服、运营、投顾、投研等中广泛应用，为多家顶尖金融机构的智能化升级提供了坚实支撑。此外，恒生电子还携手超过20家金融机构，共同探索LightGPT及光子系列大模型在金融领域的无限可能，通过持续的技术迭代与场景拓展，不断推动金融业务的形态创新与逻辑重塑，为金融行业的智能化未来铺设了坚实的基石。
本文作者可以追加内容哦 !
