瑞泊在2023金融街论坛年会第三届全球金融科技大会上的发言(摘录)

以下为瑞泊在本次会议中发言原文摘录：

尊敬的主持人、各位领导、各位行业同仁：

大家好！我是来自瑞泊技术控股的代表乙壤月，很荣幸在今天这个备受瞩目的全球金融科技大会上，有机会围绕“大模型在金融服务中的创新应用”这一重要议题，向大家汇报和分享我们近年来在构建和应用瑞泊“金融超脑”（即以金融大模型为核心的多智能体协同系统）中的一些经验。

首先，我简单介绍一下瑞泊近期的发展情况：瑞泊是国家级科研机构持股一级企业、国家级科研机构成果转移转化基地、「北京市通用人工智能产业创新伙伴计划成员」大模型伙伴成员企业，2021年获得国家级科研机构科技成果转移转化一等奖。在全国全力推动数字经济的大背景下，瑞泊坚守人工智能核心技术多年，从2018年开始了预训练大模型的技术研发，是中国最早开始AI大模型技术研发的机构之一，瑞泊的核心团队在自然语言处理技术上已超过10年的技术积累。瑞泊是目前中国少数拥有自研大模型企业之一，瑞泊自主研发的「金融超脑」系统，创新性地将自研金融大模型、专业金融模型群、生成式搜索技术、以及基于大模型的应用集群结合在一起。瑞泊金融大模型以瑞泊自研的「VIDYA」认知通用大模型为基座模型，根据金融行业的数据特征与行业逻辑进行了领域适配训练，训练深度及核心指标均高于国际友商发布的同类型系统。

大模型技术将为中国金融行业带来深刻的变革，这是因为金融行业是一个天然的大模型技术应用行业，全球各大研究机构的结论也表明，在所有的行业中，金融行业是第一批受到大模型技术冲击的行业。大模型技术将可以在风险管理与合规性、算法交易、信贷评估、市场分析、资产管理、客户服务等多个业务场景中扮演日益重要的角色，也就是说，金融行业中一切需要大量数据分析、金融逻辑应用、综合知识理解、专业内容生成的环节，大模型都可以显著提升工作效率。但是，目前中国大部分的金融行业大模型基本还是将通用模型经过简单的微调之后直接应用于金融场景中，这就导致行业大模型的专业度远远不足以解决实际的业务问题。除了专业度不足之外，还有一些其他痛点：如高度复杂的技术要求、昂贵的开发和运营成本、对数据隐私和安全性的严格监管标准、以及需要保持技术更新以适应快速变化的市场环境。此外，模型的可解释性和透明度、与现有系统的集成兼容性，以及对模型稳定性和可持续性的要求，都是金融机构在构建这些先进系统时需要克服的挑战。这些痛点是多维度的，涵盖了技术、运营、法律和战略等多个层面。解决这些痛点需要深厚的技术背景、强大的投资能力以及与监管机构和行业专家的紧密合作。

中国的金融行业承载着重大的国家使命，关系着中国经济的稳定发展，也关系着中国在国际关系中的竞争格局。中国需要一个通用大模型来作为自己的国家大脑，而中国的金融行业也急需一个真正的金融大模型来作为行业大脑。

瑞泊针对上述金融行业中的大模型技术应用痛点，构建出了融合大模型技术与专业金融技术的“金融超脑系统”。这套金融超脑系统的实现逻辑是通过一个分层的、模块化的架构，首先在数据层整合和处理来自金融市场、客户行为、经济指标的多源异构数据；然后在模型层中整合了检索模型、金融预训练大模型、金融专业模型这三大类模型；服务层为内外部系统提供接口，使其能够访问模型的能力；而在应用层，金融超脑的功能被嵌入到实际的业务流程中，全面自动化并优化决策链；用户交互层提供直观的界面，让操作人员能够轻松地从系统获取洞察；同时强大的安全和合规层确保了数据的安全性和系统的合规性；最终由云基础设施或本地部署的方式提供支持，保障“金融超脑系统”的高性能运行。

这套系统中，核心组件之一是瑞泊自研的“金融行业大模型”，这个大模型根据金融行业中的数据特点（如表格数据、时间序列数据等等）、以及特有的金融逻辑来对瑞泊的基座大模型进行了领域适配性预训练。瑞泊为此做了严格的训练数据比例实验、金融领域词表训练扩充、领域数据知识挖掘、认知偏差逻辑纠正等多个方面的创新性工作，确保训练完成的金融大模型真正成为金融从业者可信赖依赖的“一颗专业的大脑”；另一个核心组件是瑞泊多年以来沉淀的“金融专业模型群”，瑞泊智能量化金融实验室所构建的模型基本覆盖了市场假设、资产配置、风险管理等核心业务流程，为金融用户在投资研究、资产组合创设、信贷评估、风险管理等方面提供了强有力的数据驱动的洞察和见解，这些专业模型将被金融大模型进行有序调用，来为终端用户提供专业、精准的输出结果，从而有效解决大模型的“幻觉”问题，并且能够真正胜任业务核心任务；目前，瑞泊的金融超脑系统已经在部分头部机构中使用，支撑千亿级别的业务。

瑞泊「金融超脑」中的Pro-Agent类型

瑞泊是国内极少数的同时拥有全球最顶尖的金融团队与AI技术团队的企业，并且已经拥有数年的实战经验。在这个以数据为中心的时代，瑞泊坚信每个企业都应拥有自己的大模型，这不仅是智能业务运营的核心，更是企业信息安全和战略独立性的保障。正如人不会共享或外包自己的大脑，企业在涉及核心竞争力和敏感数据时，更需一个可掌控、安全、先进、经济且能持续进化的大模型。瑞泊深知大模型不仅仅是计算能力的体现，它的价值在于能够深度嵌入并升华企业的业务流程，其品质直接关系到企业的智能化转型质量。瑞泊致力于构建符合国家安全和信息隐私标准的大模型，确保核心技术和数据生态不受外部控制，通过创新解决方案，协助金融机构应对这些挑战，使它们能够在确保安全和合规的前提下充分利用大模型的强大能力。

瑞泊基于「金融超脑」构建服务于金融行业的Copilot集群，它是一个高度专业化和集成化的平台，旨在为不同团队提供定制化的智能辅助功能。无论是前台的交易团队，需要即时市场分析和风险评估，还是后台的运营团队，寻求流程自动化和合规监控，抑或是管理层，期待深度的业务洞察和战略规划，这个Copilot集群利用先进的AI算法和大数据处理能力，为金融机构内各个层级和职能部门提供实时的数据驱动洞察和智能决策支持，推动整个金融行业向更高效、更智能的运营模式转型。

基于「金融超脑」为金融行业构建服务于多个团队的Copilot集群

在金融服务的应用中，瑞泊的“金融超脑系统”将可以在以下核心场景中带来了创新：

1.资产管理与投资研究：

利用金融大模型和专业模型群进行市场假设和资产配置分析。

预测市场趋势，优化投资组合。

为投资者提供数据驱动的深度洞察，支持高效的投资决策。

2.信贷评估与风险管理：

对借款人的非结构化数据进行深度分析，提供精准的信贷评分。

监测和管理贷款组合的风险，识别潜在的信用风险。

利用领域适配性预训练和认知偏差逻辑纠正减少错误决策。

3.市场分析与交易执行：

实时分析金融市场和经济指标数据，快速响应市场变动。

通过高频交易算法支持交易决策，执行策略。

利用AI算法进行风险评估和交易信号生成。

4.合规监控与报告：

自动化处理大量合规文档，确保业务符合监管要求。

实时监控交易行为，预防非法交易和洗钱活动。

利用系统生成的报告支持监管部门的审查工作。

5.业务洞察与战略规划：

为管理层提供基于数据的业务洞察，支持战略决策。

利用金融大模型的预测能力进行市场趋势分析，辅助长远规划。

通过洞察市场和客户数据支持新产品开发和业务模式创新。

6.卓越的自动智能化客户服务

通过分析客户的财务行为、交易历史和个人偏好，提供个性化的金融产品和服务推荐。

利用自然语言处理和机器学习技术，系统可提供24/7智能客服支持，解答咨询，快速解决客户问题。

自动收集和分析客户反馈，通过情感分析等技术提取洞察，指导客服团队更有效地响应客户需求，并优化案例处理流程，确保客户满意度。

我们意识到大模型技术的发展，不可避免地涉及到国家安全与国际竞争。因此，瑞泊致力于构建一个完全独立的系统，确保我们的金融生态不受外部控制。然而，随着技术的发展，我们也面临着新的挑战。数据隐私和安全是我们始终关注的重点。我们必须确保在开放创新的同时，保护每一位用户的隐私和数据安全。

最后，我想强调的是，技术永远是为人服务的。瑞泊的目标不仅是创造强大的技术产品，更重要的是帮助企业解决实际问题，推动金融行业的整体进步。在此，我期待与在座的各位领导和专家深入交流，共同探讨如何更好地利用大模型技术推动金融行业的发展，同时确保风险可控。

谢谢大家！

附   交流内容摘要：

*我们知道，大部分的金融参与者都是有认知偏差的，那么金融大模型在现有的公开数据上进行预训练后，会有认知偏差吗？

答：是的，大预言模型如果只是在大量人类生成的文本语料库上进行一般预训练的话，鉴于这些语料库通常反映了广泛的人类观点和偏见，训练完成的模型就会天然继承这些语料中所存在的各种偏见，这在最近的很多论文研究中已经得到了证实；另外，大预言模型的自回归预测机制促使模型也倾向于采用类似人类大脑的“系统1”的工作机制来进行响应，具体来说，大模型在生成文本时是通过快速自动预测下一个标记，而无需进行缓慢而深入的分析。

这种方法可能就会导致大模型优先考虑文字表面上的连贯性和一致性，而不是深入的理性分析和推理。所以，如果只是使用普通预训练方法来训练金融行业的大模型的话，是很容易让模型出现认知偏差的。这种认知偏差非常影响模型的逻辑推理能力，所以我们做在金融大模型的时候，就从行为金融的学科角度，对预训练语料和方式做了很多创新，使得我们的金融大模型的认知偏差纠正上是非常强的，甚至可以说，我们的模型的理性程度，比GPT4的理性程度还要高。

*在金融行业里，大模型所输出的结果需要非常准确和专业才能被放心使用，那么，如何确保大模型在实际应用中的可靠性？

答：其实不只是金融行业，其他许多行业在真正使用大模型来做业务的时候，也是要求所输出的结果不能有“幻觉”，这是大模型非常难以彻底解决的一个问题。那么我们在金融行业中构建金融超脑的时候，主要是采取了三种方式：

第一种是在训练金融大模型的时候，尽量将更多的金融领域的数据进行细致地分类与处理，对其中所含的知识进行深度的挖掘，让模型能更好地学会这些知识，这样首先从模型底座层面上保证这个模型更适配金融行业，让它在解决金融领域的任务时，不会将输出模式塌缩到一些通用领域中的模式中去；

第二种是让大模型在输出答案之前，先查看一下储存在用户本地的专业知识库，让大模型根据知识库中的内容来进行回答，而不是仅仅基于它自己之前学到的知识来回答，这个方式就能有效地减少很多幻觉；

第三种方式就是利用大模型的意图理解能力和规划能力，让大模型将一个复杂的任务，分拆成较为简单的细分任务，来一步一步地执行，在执行的过程中，遇到需要专业计算的任务时，让大模型调用专业的金融模型来做相应的计算，这样就确保了许多专业计算任务的准确性。

这样，我们就通过这种一层一层的方式，层层加固，非常有效地提升了大模型在应用中的可靠性。

但老实说，还没有让模型做到100%可靠，这也引起了我们自己的深思，我们觉得，大模型虽然是一种非常先进的AI技术，但在实际的业务应用中，也不能单纯追求这种先进，而是应该将这种技术与一些朴素的工程技术结合在一起，比如说，当大模型用于客服领域时，其实可以对大模型所输出的答案进行分层，那种关系到价格、法规等敏感的内容时，可以将其分到最高敏感等级上，这种最高敏感等级的内容就需要人工的介入，来进行审核；反之，如果是一些基础的闲聊式的内容，例如打个招呼之类的，则可以将其分到最低敏感等级上，让模型与用户直接互动。这中办法听起来没什么酷炫的地方，但确实可以应用起来。