恒生电子“量身定制”金融大模型,浪潮信息智算平台助力

发布时间:2024-06-28  

北京2024年6月28日 /美通社/ -- 大模型技术的深入应用,正让金融业务发生翻天覆地的变化。例如,“投顾助手”能够为用户提供投资建议,帮助客户在瞬息万变的投资市场中把握市场规律,获得更高的收益;“智能客服”能够高效响应用户的服务需求,并给出精准的回复……大模型高效利用海量金融数据,并切实地提升金融业务与服务的智能化水平,在实际金融场景中发挥出重要的价值。

借助浪潮信息AI服务器、AIStation智能业务生产创新平台等领先的智算基础设施,国内领先的金融科技企业恒生电子实现算力高效分发、算力资源高效管理,加速了金融行业大模型LightGPT的开发和落地,模型训练和精调时间周期由数周缩短至数天,应用于客服、运营、投顾、投研等金融业务场景,助力金融行业智能化转型。

恒生电子“量身定制”金融大模型,浪潮信息智算平台助力


“量身定制”金融大模型,高效训练是关键

恒生电子是一家以“让金融变简单”为使命的金融科技公司,致力于为证券、期货、基金、信托、保险、银行、交易所、私募等机构提供整体解决方案和服务,连续16年入选FinTech100全球金融科技百强榜单,2023年排名第22位,位列亚洲上榜企业第一。

恒生电子高度重视大模型技术的创新与应用,率先发布了领先的金融行业大模型LightGPT。LightGPT基于海量高质量金融数据训练,使用超2000亿中文tokens和80多项中文金融任务指令微调,涵盖投研、投顾、智能客服、合规风控等多领域金融应用场景,实现金融相关任务高效、准确理解,显著超越通用大模型。在测试中,LightGPT的逻辑推理、超长文本处理、多模态交互、代码、金融专业问答等多项能力都表现突出,表现出极高的准确性和专业水准。同时,LightGPT学习中国的金融法律法规,更符合中国金融市场的监管要求。

恒生电子“量身定制”金融大模型,浪潮信息智算平台助力


就像一个“多面手”,LightGPT综合能力突出,单个模型即可满足金融机构众多应用场景的需求,为投顾、客服、运营、合规、投研、交易等业务系统注入AI能力,加速行业升级和智能化转型。如在信批材料审计场景,LightGPT可帮助审计员将文档的审计时间从2小时缩短到5分钟;在投顾场景,可帮助投资顾问将客户咨询问题的平均回答时间由十几分钟缩短至几秒,大幅提升工作效率,提升客户体验。

面向不同金融机构的个性化需求,恒生电子需要针对具体业务“量身定制”,对LightGPT进行强化训练和精调,以提升模型的精度,或输出符合要求的内容。为了更好地推动大模型的开发和应用,恒生电子希望在AI基础设施方面进行深度改造。一方面,大模型预训练与微调需要性能强大、高效易用的算力平台,租用算力资源虽然可解燃眉之急,但在算力稳定性、安全保障方面存在着隐患。另一方面,大模型的开发运营涉及多团队、多业务与大量数据,需要有效的任务排队和调度机制来确保资源的合理分配和高效使用。否则,将导致各团队抢占算力资源,计算任务下发后需要长时间等待才能得到结果,不仅会影响开发进度,而且会提升成本。

创新智算平台,提速大模型开发

恒生电子携手浪潮信息,部署了大模型智算平台,涵盖AI服务器、AIStation智能业务生产创新平台,大幅提升了LightGPT大模型开发和应用效率。

在算力方面,浪潮信息为恒生电子提供了AI服务器,并通过软硬件一体化的平台建设模式,实现了上线即使用的应用目标。同时支持灵活扩展,满足恒生电子业务快速增长对算力资源的灵活需求。

浪潮信息AIStation平台为恒生电子提供敏捷可靠的大模型开发支持和可扩展的人工智能基础设施管理能力。AIStation统一管理和调度算力资源,为恒生电子算法工程师提供统一的算法开发环境,实现大模型预训练、精调和推理测试的完整业务流程。对于千亿、百亿参数的模型精调,AIStation自动创建分布式训练环境,为大模型训练提供高效、稳定的计算环境。AIStation推理服务与恒生的模型测试平台实现对接,有效提升了模型部署和测试效率。借助AIStation平台,恒生电子加速了面向投顾咨询、投资合规、运营管理、客户服务等金融业务场景的大模型应用的开发和交付。

恒生电子“量身定制”金融大模型,浪潮信息智算平台助力


此外,浪潮信息分享了源大模型项目的开发经验,以及开源大模型的微调方案和实践经验,为恒生电子金融大模型LightGPT的预训练、微调提供了有力的帮助。

借助大模型智算平台,恒生电子加速了金融行业大模型LightGPT的开发与上线,模型训练和精调时间周期由数周缩短至数天。目前,LightGPT已完成国家网信办大模型算法备案,在客服、运营、投顾、投研等多个金融业务场景落地应用,助力多家头部金融机构实现了数智能力的进化。此外,恒生电子已联合20多家金融机构,共建LightGPT金融大模型以及光子系列大模型应用,并不断提升大模型的技术能力与积淀,助力金融领域业务形态和逻辑范式的革新。

文章来源于:21IC    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>