game show 新闻动态
你的位置:新万博网站是什么网站 > 新闻动态 > 杭州银行: 基于金融垂直大模型的商业银行制度知识库检索平台
杭州银行: 基于金融垂直大模型的商业银行制度知识库检索平台

2025-05-21 22:26    点击次数:68


  

在整个金融监管加强、金融合规严控的政策背景下,银行需要建立健全合规管理体系,确保遵循相关法律法规。随着信息技术的发展,尤其是大数据和人工智能应用如大语言模型的出现,为银行制度知识库检索系统的建设提供了技术支持。越来越多的金融机构开始重视信息化建设,尤其是在合规和风险管理领域,推动了市场对制度管理和检索系统的需求。在这个大背景下,杭州银行围绕“二二五五”战略和“数智赋能”建设,银行制度知识库检索项目开始受到重视并立项。

对于我行的制度知识库检索项目,有四大项目目标:

①系统目标:建立一个高效、智能、可扩展的银行制度检索系统,提升信息检索效率;

②业务目标:降低各大业务机构及部门在日常运营中对于制度知识的检索成本,减少因信息不对称、不全面带来的合规风险;

③技术目标:实现高可用性、高安全性和高扩展性的检索系统和文档管理中台,满足不断变化的政策及用户需求;

④用户目标:提升用户的工作效率和决策能力,提供优质的用户体验。 二、项目/策略方案 整个项目策划包括以下几点:项目目标、需求分析、项目范围。

(1)项目目标

① 建立一套完备的银行制度知识库,提供便捷的检索服务;

② 实现高效的信息管理与知识共享,支持银行内部及外部的政策法规合规。

(2)需求分析

① 用户需求:明确用户(合规部门、审计部门、其他工作人员等)的检索需求和使用场景;

② 数据源分析:确认知识库所需的数据源,包括法规条款文件、外部政策文件、行业指南以及操作手册等。

(3)项目范围

包括知识库的构建、数据处理与管理、检索系统和管理平台的开发、用户界面的设计等。

整个项目实施包括以下几个阶段:数据处理与整合、系统设计、开发与测试、上线与培训。

(1)数据处理与整合

① 根据各部门提供的行内制度、法规、政策及相关文档,进行分部门分类别(excel/doc/pdf/markdown/html/ofd等)的标准化及定制化处理;

② 建立数据更新机制,确保知识库信息的时效性。

(2)系统设计

① 确定系统的整体架构,包括前端用户界面、后端数据存储与处理模块;

② 设计端到端的算法模型,建立向量存储知识库,支持语义搜索,实体硬过滤,大模型生成式对话以及其他多模态识别等功能。

(3)开发与测试

① 前后端开发:用户友好的文档中台界面开发,确保易用性。建立数据库,实现数据存储和文档管理模块;

② 算法模型开发:包括知识图谱的构建、图谱链路的检索、query拓展、文档OCR标注与上下文语义的切分、多重检索链路召回逻辑、重排模型优化、多模态大小模型协同优化等;

③ 测试:进行功能性测试、性能测试和安全性测试。

(4)上线与培训

① 系统上线,通过行内微课进行线上+线下的初步推广;

② 针对业务运营管理员进行培训,确保用户能够有效使用系统。 三、创新点 该项目的创新点主要体现在以下四个方面:

①采用大模型+RAG技术:本项目引入了先进的垂直金融零售领域基座模型——金磐大模型与RAG(Retrieval-Augmented Generation 检索增强生成)框架,实现了端到端的模型开发与优化,包括文档切分、query改写、搜索匹配、向量库存储等,有效缓解了大模型在生成过程中可能出现的幻觉现象,确保生成内容的准确性和相关性,从而大大提高了模型的可靠性。

②采用知识图谱技术: 银行制度知识需要跨部门跨知识库的解决方案,现有的RAG方法往往依赖简单的数据结构,限制了它们理解基于实体间复杂关系信息的能力。并且这些系统往往缺乏必要的上下文知识,无法在不同实体及其相互关系之间保持回答的连贯性。我们基于GraphRag的思想构建了杭银制度图谱,将图结构纳入文本索引和信息检索中,并在图构建上做了剪枝优化,以及图问答的意图识别和多实体路径搜索,保证了对多跳复杂问题更有效的推理和召回。

③ 采用多模态大小模型协同技术: 银行业的制度文档类型不光格式多样,内容也很复杂,通常将文本、表格和图片组合在一起,以传达丰富的想法和见解。虽然RAG擅长理解长文本,但难以有效的集成和理解多模态内容。我们将主流的多模态大模型和小模型(包括Clip、Sam等)相结合,能够更高效准确的分类和理解流程图、扫描发票、大型表格等模态,实现精准问答。

④文档数据管理中台:本项目开发了一款专为开发与运维人员设计的文档数据管理中台,该平台对文档的整个生命周期进行了系统化管理,不仅提升了文档的组织性和可访问性,还确保了信息的及时更新和准确性。此外,中台还可以为各个部门和业务条线量身定制专属的多层次文档集群,以满足不同部门个性化需求,根据自身的业务特点和操作流程,快速获取所需信息,提升各类文档在存储、检索方面的便利性。 四、项目过程管理 前期阶段:进行立项需求分析,以全面理解项目目标和用户需求。在此基础上,团队开展需求对齐工作,确保所有相关方对项目的愿景、范围和预期成果达成一致。这一阶段的深入研究为后续工作打下坚实基础。

中期阶段:进入策划实施阶段,包括技术方法调研、产品设计、技术准备和项目开发测试。通过市场调研和技术分析,制定合理的实施方案。在产品设计过程中,重点考虑用户体验与功能需求,以确保知识库的易用性和高效性。技术准备设计基础设施的答案和相关工具的选择,确保项目开发的顺利进行。在项目开发和测试环节,制定开发与测试计划,严格按照计划进行功能点开发,进行多轮测试以验证系统的稳定性和可靠性。

后期阶段:项目的最后阶段包括系统上线、用户培训和后续运营。在系统上线前,确保所有功能正常运行,并进行必要的调试。上线后,组织用户培训,以帮助用户快速掌握系统操作,提升使用效率。此外,后期的运营维护会持续关注用户反馈,构建数字看板,跟进系统数据指标,及时优化系统,确保知识库的长效运行和不断改进。 五、运营情况 在推广方面,采取了多种策略以确保制度知识库检索系统的广泛应用。首先,线上录制系统使用的视频课程通过公司的内部渠道推广至全行,使用户能够便利的学习相关知识。此外,我们还组织线下培训合成,以便于面对面的交流和互动,帮助用户更好的理解和应用系统。为了增强使用文档的可见性,我们在工作沟通APP中发布公告,鼓励用户积极查阅和使用相关文档,从而提高整体使用效率。

在用户反馈方面,为了及时收集用户的意见和建议,我们设置了“点踩”按钮,方便用户对内容进行快速反馈,这一功能不仅能帮助我们了解哪些部分存在问题,还能引导我们进行改进。同时,我们对用户的query进行算法建模分析,以识别常见需求和潜在问题,从中提取有价值的信息,帮助我们更好的理解用户需求。

在系统运行方面,将用户活跃量作为重要指标进行分析,评估系统的使用效果和用户参与度。同时,我们还开发了一套问题回溯机制,确保能够快速的定为问题,保证系统稳定运行。 六、项目成效 银行制度知识库检索系统为银行内部各部门(如合规部门、审计部门等)以及行内其他人员提供服务,带来的成效具体体现在以下几个方面:

①提升工作效率:通过集中管理和快速检索各类制度和政策文件,员工可以迅速获取所需信息,减少了查找资料所耗费的时间。这种效率的提升将直接影响工作进度,使得各部门能够更快的完成任务,提高整体生产力。

②促进知识共享与传承:制度知识库能够有效记录和分享内部经验和知识,避免信息孤岛现象,提升行内的知识管理能力。这不仅促进了部门间的协作,也能帮助新员工快速上手,从而节省培训成。

③降低合规风险:合规部门能够更有效的访问最新的法律法规和内部政策,从而降低因信息滞后导致的合规风险。及时了解和遵循相关规定,可以减少因违规操作而造成的潜在罚款和法律责任。 七、经验总结 项目经验总结主要体现在以下几个方面:

首先,深入了解项目需求相当重要。在项目启动阶段,与相关方进行充分沟通,明确期望和需求,制定科学合理的开发计划。这一过程可以有效减少重复开发或废弃功能的发生,从而避免开发资源的浪费,提高项目的整体效率。

其次,在技术调研方面,对开源产品进行全面测试,充分了解这些产品的适用性和稳定性,避免后期出现不适用的情况,导致额外的迁移成本和资源浪费。

最后,在推广方面,将项目嵌入用户最常见的应用程序中,能够有效降低用户的使用门槛。这种策略不仅能够提高用户的接受度,还能促进更广泛的使用,从而提升项目的价值。通过优化用户体验,确保用户能够无缝的访问新功能,可以最大限度的发挥项目的潜力,实现预期目标。 更多金融科技案例和金融数据智能优秀解决方案,请在数字金融创新知识服务平台-金科创新社案例库、选型库查看。



Powered by 新万博网站是什么网站 @2013-2022 RSS地图 HTML地图

Copyright Powered by365站群 © 2013-2024