近年来，众多金融机构都在积极投身 AI 领域的探索，投入大量资源广泛布局智能客服、信贷审批、风险管理等业务场景。然而，随着开源大模型步入实际应用阶段，其在准确性、运行效率、业务适配性及成本控制等方面的问题逐渐凸显，金融行业AI落地 “高投入、低产出” 的困境仍较为普遍。
就在行业为这些难题寻求突破之际，中国银联(以下简称“银联”)最新发布的一项智慧金融 AI 推理加速成果，为金融行业AI落地带来了新的曙光。中国银联执行副总裁涂晓军出席2025金融AI推理应用落地与发展论坛时提出：“AI推理技术作为连接算法与场景的“最后一公里”，已成为推动金融服务智能化、精准化、高效化的核心引擎。”
以客户服务升级为起点，直面AI落地难题
日常运营中，银联需要通过分析客服对话、工单等海量客户反馈，精准捕捉用户痛点，从而优化服务。但这一过程面临着双重挑战：
一方面，银联业务涵盖多个领域，产品规则与特点差异大，业务场景复杂，导致用户反馈问题精准分类难度剧增。另一方面，用户反馈内容往往冗长且无序，从简单操作疑问到复杂产品反馈无所不包，进一步加大了分析难度，导致根因分析难以深入。
为解决这些问题，银联引入了AI技术。将问题进行标签化处理，并结合客户对话切片处理后送入大语言模型，以期实现自动分类与根因分析。但实际应用中，推理过程涉及多次复杂运算，一次分析耗时长达15分钟;此外，6000多个标签及复杂的层级结构导致分类准确率不足10%，远不能满足生产需求。
持续优化技术，初步实现工程可用
面对困境，银联积极推进优化。首先，深度优化标签体系，按照业务场景与产品类型对标签进行拆解，构建起层次清晰的标签树，并为每个标签制定详细分类规则;同时，引入基于知识图谱的检索增强机制，提升信息检索效率与准确性。通过这些措施，银联实现了会话分层推理，问题分类准确率提升至80%以上，初步达到工程可用标准。
然而，由于每个标签分类规则较为冗长，尽管推理时间有所缩短，却仍无法满足10秒内完成推理的业务要求，银联还需进一步寻求技术突破。
携手华为攻关，UCM技术成突破关键
关键时刻，银联依托国家人工智能应用中试基地，与华为等生态伙伴合作攻关推理性能。其中，华为研发的UCM(推理记忆数据管理器)技术成为核心突破点。
通过UCM技术，银联将标签、规则等KV数据进行缓存，以结果查询代替重复推理， 使日均通话分析数提升125倍，10秒内即可有效识别出高频问题，标签分类准确率也从不足10%提升至80%。中国银联智能化创新中心副总经理杨燕明表示：“经过一系列优化，我们的‘客户之声’应用已可投入实际生产。”
树立行业典范，引领金融AI推理新方向
除 “客户之声” 场景外，银联在 “营销策划”“办公助手” 等场景中开展的UCM技术试点也取得了显著成效。在“营销策划” 场景中，单个营销计划生成时间大幅缩短至10秒内，单台服务器可同时满足5个以上用户需求，这将有力促进支付交易量的进一步提升。在“办公助手” 场景中，支持超长会议语音转文本，生成高质量会议纪要，可处理超17 万Tokens 的超长序列推理，解决了超长序列模型推不动的问题。
银联此次发布的AI应用成果，不仅提升了自身的服务质量与运营效率，更为金融行业AI推理应用树立了典范，有望引领金融行业开创更智能、高效、便捷的金融服务新时代。