浦银理财员工数字助理—智浦小鹿 王岩
背景与意义
01 项目背景
近年来，伴随着光学字符识别（OCR）、机器人流程自动化（RPA）、大规模模型（LLM）、音视频处理、多模态等技术的不断进步，以及企业数字化升级的推动，人工智能（AI）的发展已经迈入了2.0时代。其中，以ChatGPT为代表的大语言模型产品在发布之初就掀起了前所未有的热潮。这种基于深度学习的大语言模型具备了前所未有的语言理解和生成能力，能够实现自然、流畅的人机交互，为人工智能技术开辟了新的领域。
当前，国内众多金融公司，包括：银行、证券、保险、信托等已经在积极探索大模型技术在业务中的应用，并已有一定的行业课题申报和实际项目落地，已经取得了较好的成效。经过对行业应用及大模型应用的深入调研，浦银理财结合自身情况，启动了“员工数字助理-智浦小鹿建设项目”，从该应用场景入手，开展大模型应用探索，具体场景包括构建企业级知识库，提供便捷的访问渠道，通过问答的方式便捷获取企业知识信息、实现办公流程便捷办理功能。通过该项目引入大模型基础服务的智慧化系统平台，在底层上提供OCR、RPA、多模态、大模型的工具、算力支撑，统一技术栈、集中管理数据模型、对接业务系统、降低上层应用开发门槛，提升AI解决实际问题的能力。
02 整体规划
以大模型为代表的人工智能技术在金融行业的应用，其主要目的还是为了服务公司业务发展，为公司整体效能带来提升。基于对大模型的不可解释性以及安全性方面的考虑，浦银理财的切入点落在了构建一个内部员工服务平台，并在后端构建以大模型为主、整合OCR、RPA、向量模型以及各类应用插件的Agent（智能体）平台，实现平台“四化”：
01知识服务智能化
能够对公司合规文件、制度文件、投研报告、产品资料、新闻资讯、系统使用手册等文件实现智能标签化处理、存储，实现以材料数据驱动的智能服务；
02员工服务自动化
基于领域大模型技术，完成员工问题意图识别、信息自动抽取、答案自动生成，并结合私有化大模型知识库，对接公司其他系统API接口，也可嵌入业务系统，同时也接入公域大模型，实现员工知识查询和工作流程办理自动化，折叠员工日常任务的处理时间；
03模型服务本地化
本次项目部署了私有化领域大模型，并且本地大模型能力调用及多模态文档识别能力调用均提供外部调用接口，可为浦银理财本次大模型应用场景探索及未来新的大模型应用场景拓展提供底层大模型能力基础；
04智能服务中台化
构建AI管理平台，融合Prompt管理、模型管理及知识库管理，具备OCR、RPA能力，提供丰富的AI服务SDK/API，以便各方构建智慧化的上层业务应用，并提供可视化后台控制系统，方便运营、管控及监测AI服务，可更有效地响应多方开发需求。
总体方案
01 整体方案
图1 智浦小鹿整体架构图
目前智浦小鹿一阶段已经在浦银理财内部推广使用，搭建了OCR智能文档平台、RPA机器人平台、大模型服务平台共同组成的智能模型中台，结合数据中台、企业知识库以及统一工作台，提供RPA、智能文档、语义理解及推理、定制化自动流程以及综合信息收集检索5大能力，可通过插件、API接口等方式为智浦魔方及各个业务系统提供服务支撑，并将面向员工的所有应用场景统一一个入口即小鹿客户端，员工通过与小鹿的对话可以实现知识库信息快速获取，办公以及业务流程自动办理，压缩重复性工作时长，解放生产力。
02 技术架构设计
图 2 智浦小鹿一期技术架构图
整个系统由Python、Java、C#、 JavaScript 、Lua等多语言开发。其中Web前端使用JavaScript+React框架进行开发，桌面端由C#进行开发，后端平台及模型部分由Python、Java、Lua进行后端开发。
在项目规划中，前台的业务老师可使用小鹿桌面端进行问答和任务操作；也可使用小鹿Web端使用功能更全面的问答体验；也可使用OCR平台进行功能调用，或将OCR平台的能力提供给其他服务。
后台的管理员可进入小鹿管理后台查看工作流监控、效能提升、审计日志等功能；也可进入问答后台查看和使用问答知识库、权限、敏感词、参数修改、第三方模型接入等功能的管理配置；也可使用大模型管理平台进行大模型的管控、标注、训练、上线等。系统对接公司统一单点登录，同时配套已有场景的统一用户中心，实现权限同步，保障所有系统功能与行内的权限统一。为了完成业务功能、权限、模型三者的集成统一，并为各类工具和流程的扩展提供标准API，建设了小鹿功能后台，以接收前台桌面端、Web端的请求并调度转发、接受后台管理平台的请求并响应、集成权限与其他各产品同步、完成内部数据的安全对接和服务嵌入、为所有接入的工具化能力提供标准API的接入流程。
最后，为了保障问答能够调度各个工具能力，将多个原子能力打包为能力模块矩阵，提供如音转写、NL2SQL、RPA、大模型管理平台等专业的能力模块，以便利的构建各个业务流程。
所有服务使用Docker Swarm进行分布式、多节点部署，在少数节点故障时自动进行服务转移和重启，保障服务的高可用和长期稳定运行。
场景应用实践
01企业知识库问答
大模型外挂知识库是一种将大型语言模型与外部知识库结合使用的业务场景，也是目前垂类领域使用相对较为成熟的一类场景，大模型在回答问题或生成文本时，首先会从外挂的向量知识库中检索出相关的信息，然后基于这些信息生成回答或文本，能够很好的解决垂类领域数据不足、数据更新以及多轮问答的问题。浦银理财作为金融资管行业企业，内部外部相关制度、法律法规、产品相关材料、各系统手册以及各业务部门培训文档已经有大量沉淀，但并没有进行体系化的整理，各类文档格式、存放方式各异，对于一般员工难以快速查找到需要的信息，因此在建设员工数字助理大模型平台时，将这一场景作为首先上线的服务在公司内部推出，并发布了员工数字助理的统一入口——智浦小鹿客户端。
首期上线时智浦小鹿知识库中已集成了公司制度库、外部法规库、产品文档库、系统手册库，员工可以直接在智浦小鹿客户端上进行问答并获取到标注准确答案来源的原文档。知识库也可以根据业务部门的需要快速集成其他文档库。小鹿客户端对接了浦银理财统一认证平台，可以根据员工的角色配置个性化的知识库权限。
图 3 智浦小鹿一期客户端
在使用过程中，有业务部门提出希望可以通过问答的方式获取到指定理财产品的税费、最新净值信息，指定资产的最新利率，业务对这类数据时效性要求更高，字段数量相对优先且获取逻辑简单，员工数字助理平台直接后台对接业务系统，针对更新频率低的数据单表同步至结构化数据库中，对高频数据业务系统根据需求提供API接口，供员工助理平台调用。针对数据的查询方式分为两种，指标字段的直接问答，大模型直接调度预开发好的查询程序；如果涉及数据逻辑处理，例如统计一段时间内的数据情况，则使用大模型的NL2SQL功能，实时生成SQL查询后台数据库。
02 智能化办公流程
在引入垂直领域大模型之前，浦银理财已落地了RPA场景，实现了若干流程固定、规则明确、重复性高的工作流程，也根据业务流程需求在各系统中开发了定制化的自动化工作流。员工数字助理则将RPA、OCR以及定制化的系统自动流程，通过大模型进行交互、需求理解、调度编排、结果生成，对于用户来说则是在智浦小鹿客户端进行自然语言对话，即可完成需要的流程。在智浦小鹿一期实现的公司员工个人投资申报流程，就是这一场景的典型实现。
在自动化流程之前，浦银理财所有员工报送个人证券投资信息，均需要登录中国结算官网，进行若干步操作后才能获取到pdf投资明细信息，之后还需要在内网登录个人投资申报系统，填报明细上传附件，整个流程需要在内网和外网进行多步操作，并需要填报正确的账号、时间段以及账号和投资情况，步骤繁琐且不连续。在数字员工助理大模型应用落地后，员工仅需要在智浦小鹿客户端通过与小鹿对话的方式回答中国结算账号信息，提交收到的短信验证码，从外网下载正确附件、完成内网投资申报系统信息填写确认的操作均由大模型调度RPA机器人、OCR平台及相关系统API接口完成，流程如下图。
图 4 员工个人投资申报流程
整个流程向公司内部推出后，切实解决了员工痛点，收到良好的反馈，并收到多个同类型需求。目前已完成的智能办公流程还包括大模型调度RPA及OCR处理邮件并核对信息、根据员工要求合并文档并连续处理打印任务、通过对话预订会议等，实现员工办公时间折叠，提高效能。
03 分析及生成场景
资管行业投研场景中有一部分工作是需要分析同业产品信息，而当前市场上同业机构信披文件动辄上千份，人工几乎难以处理，不同机构文件格式各异，且有多种获取方式，很难通过传统软件工程方式解析。针对这一情况，浦银理财每日定时通过RPA机器人每日自动登录不同机构站点或客户端，下载最新信披文件入库，大模型调度OCR精准识别提取信息，统一调度并汇总，加工生成报告初稿，针对业务重点关注的信披文件，自动落入知识库，用户也可直接进行相关内容对话问答。
这一场景的实施关键是有RPA机器人可通过网页、客户端等访问或下载的文件与信息，业务可整理出规则提取出需要的文本，信息统一入库或由大模型加工形成表格/报告。在智浦小鹿客户端每日推送最新的报告，也可通过问答的方式获取所需的个性化信息。
总结展望
由于浦银理财在数智化赋能员工方面之前已经有了相当的积累，例如原有的RPA、系统自动化以及公司内部各种知识库的沉淀，在建设员工数字助理系统时，大模型就能够作为调度、理解和输出的核心，有机结合过往的各种能力，便捷地实现之前需要大量程序定制开发的场景。在应用大模型时，不可为了落地智能化而推一些业务上收益甚微的场景，那么如何量化智能大模型项目的产出，就是后续工作需要重点关注的。员工数字助理，落点还是在位员工提供切实的工作效率优化，办公时间折叠，后续的建设中，还需要业务高度参与，需要有强大的产品思维，梳理出可以优化的工作流程，充分利用大模型中台提供的各种能力，为公司业务发展赋能。
