2024 中国'大模型 + 智能客服'最佳实践案例 TOP10 发布
引言
随着人工智能技术的迅猛发展，智能客服已经成为各行各业中不可或缺的一部分。在这个数字化时代，客户期待获得即时、个性化、高效的服务体验，而大模型技术的崛起为实现这一目标提供了全新的可能性。
大模型已经在多个领域展现出强大的语言理解和生成能力。在智能客服场景中，这种能力被广泛应用于理解用户提出的问题、生成与用户需求匹配的回复，甚至是预测用户行为和提供个性化推荐。这不仅极大地提高了客户服务的效率和质量，还为企业节省了大量的人力和时间成本。
本报告旨在探究大模型在智能客服领域的应用价值，并展示来自不同行业的实践案例。通过对这些案例的梳理和分析，我们将为大家展示大模型技术在改善客户体验、提升服务效率、降低成本等方面所发挥的关键作用。
本榜单将为行业内的决策者、从业者和科技爱好者提供宝贵的参考和启发。无论您是希望了解最新技术趋势、寻找优化客户服务的解决方案，还是探索大模型在商业应用中的潜力，都将在本榜单中找到所需的信息和灵感。
01 大模型加持，智能客服实现新一轮变革
大模型的能力进步将对很多领域产生颠覆式影响，客服场景同样也不例外。作为人工智能技术早已渗透多年的场景之一，无论是面向内部员工的自助服务还是面向外部客户的自助服务，智能客服在企业都有着普遍的应用需求。
在大模型出现以前，智能客服主要是基于预设的规则和知识库进行问题解答，这种方式虽然在处理常见和标准问题时效率较高，但也存在显著问题：
第一，有限的理解能力。基于规则的智能客服通常只能理解预设的问题和关键词。这意味着它们很难处理用户以非标准方式表达的问题，如使用方言、行业术语或者含糊其辞的表述。用户提问如果未命中正确的关键词或短语，系统可能无法提供正确的答案。
第二，缺乏上下文感知。传统的智能客服系统通常无法处理涉及多轮对话的上下文信息。这导致在一次会话中，即便是连续的问题，也需要用户重复提供信息，因为系统无法'记住'前一条查询的内容。
第三，交互性和灵活性不足。传统智能客服系统通常按照固定的模式回应用户，缺乏灵活性和自然流畅的交互体验。它们很难根据对话的发展自然地调整回应，使得对话显得机械和僵硬。
第四，知识运维成本高。当出现新的产品特性、政策更新或者市场变化时，基于规则的系统需要人工更新知识库和规则，这种依赖大量手动维护的方式不仅成本高、效率低下，而且容易出错。
第五，个性化服务不足。传统智能客服系统主要基于一般性解答，它们往往无法提供针对个别用户特定需求的个性化服务。对所有用户的回答往往是标准化的，缺乏针对性和个性化的深度。
这些正是大模型可以带来变革的方向。大模型加持下，智能客服可以实现：
第一，语义理解能力增强。大模型基于超大规模数据训练，能够理解并处理复杂的语义结构，使得智能客服能够更准确地解析和理解用户的自然语言输入。这些模型利用上下文信息和深层次的语言模式，能够精确识别用户意图，改进意图识别流程。
第二，情绪识别与应对。现代大模型通常集成了情绪识别技术，能够根据用户的语言和表达推断其情绪状态，从而调整回应策略。这种能力使得智能客服在处理客户的问题时更具同理心和人性化，能更有效地管理用户的情绪和满足他们的需求。
第三，更自然的对话体验。大模型能够生成流畅、自然的语言，使得用户与智能客服之间的对话更类似于人与人之间的交流。这种改进不仅增强了用户体验，提升了用户满意度，还有助于构建用户的长期信任和依赖。
第四，知识自动更新。大模型具备持续学习能力，可以通过不断的数据训练来迅速适应新的市场动态、产品变更或政策更新。这使得智能客服系统始终能提供最新、最准确的信息和服务。
第五，个性化服务体验。通过分析用户的历史交互、偏好和上下文对话信息，大模型能够提供定制化的建议和解决方案。个性化服务不仅限于内容的相关性，还包括回应的语气和风格，使得每位用户都能获得定制化的服务。
从底层核心 NLP 技术的历史演进来看，基于规则的聊天机器人代表了智能客服演进的起点，随着机器学习技术的发展，基于规则的聊天机器人正在被基于模式匹配的聊天机器人所取代，相较于基于规则的聊天机器人，机器学习技术驱动的聊天机器人具有了一定程度的智能，可以处理一些复杂的对话场景；深度学习技术的兴起使得聊天机器人进入了一个新阶段，深度学习技术驱动的聊天机器人采用了 RNN（循环神经网络）、GAN（生成对抗网络）等混合 AI 技术，使聊天机器人能够进行更加自然和人性化的交互。
大模型技术出现后，聊天机器人的核心技术进一步升级，新技术的出现并不是要完全淘汰之前的技术实现方式，而是在某些模块上进行优化，以实现更好的效果，在人工智能技术组合基础上实现整体迭代。例如，大模型虽然提升了聊天机器人的自然语言理解模块，但对于特定任务仍然可以使用正则表达式等基于规则的逻辑实现。
从智能客服的完整流程来看，大模型在核心环节均有渗透：
- 对话内容总结：基于大模型的总结能力，可以为人工客服提供坐席辅助、工单预填、前情摘要等能力，提升坐席人员的工作效率，降低客户通话时长。
- 知识资产构建：基于大模型的内容创作、总结、分类等能力，可以从对话记录等非结构化文档数据进行智能的知识抽取，自动完成知识标注和知识维护，这些知识点将被用于知识管理流程和系统中，然后补充到企业知识库中。
- 机器人坐席：大模型提高了机器人客服的意图理解和内容分类能力，这是机器人客服更像'人'一样与用户对话的核心能力。此外，内容创作和增强、语气/说话风格、总结等能力的结合，使得机器人坐席能够有效理解和分析自然语言，与用户进行更加自然、流畅的交互，提升用户体验。
实现路径分析
从实现路径上看，企业利用大模型建设智能客服的思路主要分成两种：
第一种：RAG 思路（检索增强生成）。
将领域知识构建到向量数据库中，当用户和问题系统进行交互时前置检索到领域知识然后提供给大模型使用。RAG 思路相当于将现有知识进行外置存储或检索，优势在于更加方便集成现有知识、动态更新知识成本低、通过上下文限定一定程度消除模型幻觉。但需要注意向量检索的精度和延迟问题，通常需要配合混合检索策略。
第二种：Fine-Tuning 思路（微调）。
通过对大模型本体的更新，将知识更新进去，需要对模型调优、重新部署，甚至需要大量 GPU 重新训练模型。Fine-Tuning 思路的优势在于除了加入更新后的知识外，还可以影响模型生成内容的风格，使其更符合企业品牌调性。但缺点是成本高、更新周期长，且存在灾难性遗忘的风险。
在企业实际应用时，应选择两种思路的融合，从而提供更优的解决方案，根据使用场景，充分发挥两种实现路径的优势。例如，对于通用问答使用 RAG，对于特定业务逻辑或风格要求高的场景使用微调模型。
常见实施陷阱
很多企业现已将客服场景作为大模型落地探索的重要场景之一，为企业用户总结出三个容易掉入的'陷阱'以及应对方案：
陷阱 1：将大模型作为答案，寻找可以解决哪些问题
很多企业一开始将大模型作为'答案'，倒推可以解决哪些'业务问题'，这样做不仅会浪费资源，还可能将精力耗费在不符合组织战略目标的行动上。对此，企业必须从已知的业务挑战入手，寻找正确的解决方案。对大多数企业而言，最好的切入点是参考智能客服厂商推出的带有大模型功能的产品/解决方案。
陷阱 2：人员和流程还没有准备好，就开发产品工具
即使对于技术公司来说，在现阶段尝试内部开发大模型解决方案也会面临巨大风险。当前大模型技术正在快速发展，企业选择自建而非直接购买可能会导致产品工具开发出来后过时、开发成本过高或者无法达到满足投资合理性的最低标准。企业将技术作为首要考虑因素而忽视人员技能提升和流程升级，会推迟价值实现的时间。
陷阱 3：低估了大模型偏见对应用的负面影响
大模型的偏见问题会显著增加智能客服在面向用户使用时的风险，尤其是对准确率要求较高的直接对客场景，限制场景的使用。企业需要确定大模型偏见在组织环境中的含义，采用严格的方法监测、衡量并减轻其影响。
02 2024 中国'大模型 + 智能客服'最佳实践案例 TOP10 评选结果
通过面向社会各界的广泛征集和深度市场研究，本次'大模型 + 智能客服'最佳实践案例榜单评选共收集、调研了 34 个'大模型 + 智能客服'实践案例。
从价值性、实用性、创新性、示范性四个维度出发，行业研究机构对这 34 个'大模型 + 智能客服'实践案例进行评选，精选出其中 10 个最佳实践案例，为企业大模型应用提供参考。
《2024 中国'大模型 + 智能客服'最佳实践案例 TOP10》评选结果如下（排名不分先后，按拼音排序）：
- 拜耳（中国）虚拟医药代表平台建设项目
- 基于中国电信大模型底座的'谛听'客服智能体创新项目
- 黑龙江数字政府项目
- 中国电信河南公司智能客服助理项目
- 联想智能问答机器人助小咖
- 福田政务智慧助手'小福'
- AIGC+ 客服数智化培训案例
- 新东方：AIGC 让智能客服更智能
- 西南电力设计院智能知识管理与知识问答项目
- 基于 AI 大模型的多路召回智能问答助手
03 入选案例介绍
▎案例 1：拜耳（中国）虚拟医药代表平台建设项目
- 案例方/供应商：拜耳/沃丰科技
- 应用领域：医疗
- 案例详情：沃丰科技为拜耳（中国）虚拟医药代表平台提供了以 AI 大模型为支撑的智能客服产品，完成企业微信渠道智能虚拟代表 AI 赋能，从而打造影像学院专家社群智能客服系统，助力拜耳（中国）实现双打模式增长率远高于线下代表单打及行业均值、学术精细化运营医生认可度高、全年准入近百家医院并形成学科圈持续推进其他产品。
- 入选理由：
- 大模型能力可以通过强大的语言能力，实现短期内的高效知识整理、知识培训、合规培训，显著提升客服能力；
- 大模型可以帮助虚拟医药代表智能助手更好地理解和响应用户需求，帮助医药代表更好地完成销售任务，提高客户满意度和忠诚度；
- 无论是虚拟医药代表客服服务，还是线上 HCP 客户管理，都将大模型的能力以高可用性的方式，赋能线上线下推广和私域运营布局。
▎案例 2：基于中国电信大模型底座的'谛听'客服智能体创新项目
- 案例方/供应商：湖北电信/中电信人工智能科技有限公司
- 应用领域：通信
- 案例详情：2024 年初，湖北电信公司与中电信人工智能科技有限公司共同合作启动'谛听'客服智能体创新项目，在万号客服接听人工来话的长尾问题场景中，采用大小模型协同、多智能体混编技术，提升意图命中及关键实体的精准率，在此基础上提升对客户诉求的一解率并有效压降系统内操作时长，提高了客户服务满意率，缓解了坐席压力。
- 入选理由：
- 传统 NLU 处理技术对意图识别场景的应对能力有限，大小模型协同能够更好地理解用户意图和需求，同时又能兼顾响应的及时性。本案例使用大小模型协同来改进意图识别流程，有效提升意图识别准确率；
- 长尾问题通常涉及领域广泛、答案多样的情况，本案例通过大小模型协同技术提升对长尾问题的处理效率，有效缓解了客服人员的工作压力，为业务繁多且复杂的客服场景提供参考。
▎案例 3：黑龙江数字政府项目
- 案例方/供应商：黑龙江省政府/中国移动
- 应用领域：政务
- 案例详情：基于中国移动九天·海算政务大模型，黑龙江数字政府打造智能政务客服，为企业、群众提供了'更便捷、更贴心、更智能'的一站式智能客服新体验，提高了数字政府的建设成效，使政府运行更加协同高效，使广大市民的政务办事体验更加方便、快捷，最终做到了让数据多走路、民众少跑腿。
- 入选理由：
- 为保证政务领域可信性，中国移动创新性使用了'政务大模型 - 信息场 - 应用'政务服务体系，增加了市民办事效率的同时确保了政务信息的安全性；
- 基于中国移动九天·海算政务大模型，一网通办智能客服咨询复杂问题准确率提升 45%、答案有效性提升 17%、拟人化程度提升 24%。
▎案例 4：中国电信河南公司智能客服助理项目
- 案例方/供应商：河南电信/科大国创
- 应用领域：通信
- 案例详情：为满足省内 10000 号客服坐席服务支撑场景，河南电信引入智能客服助理，大模型通过识别客服与用户之间的对话内容，为客服提供一系列智能辅助功能，帮助客服快速解决用户的问题，不仅显著提升了客户服务效率和质量，并且通过实时沟通监控降低了客户投诉率，增强了品牌形象。
- 入选理由：
- 本案例解决了河南电信实际的业务挑战，降低因服务延误导致的客户流失、减少人力成本，并改善了员工工作条件、提高了员工保留率；
- 本案例利用先进的大模型技术实时识别用户意图，并配合情绪监控工具，不仅优化了客户体验，也展示了如何通过技术创新解决传统的客户服务问题。
▎案例 5：联想智能问答机器人助小咖
- 案例方/供应商：联想
- 应用领域：IT/互联网
- 案例详情：助小咖具备强大的自然语言处理能力，能够理解用户的问题并提供准确回答，可以处理多种类型的请求，包括但不限于日常知识问答、技术支持、日程管理等，支持包括中英文在内的多语言文本及语音交互，目前已经在联想内部 IT、HR、财务、行政、差旅、工厂物料管理、云平台支持、销售支持等二十多种渠道为内外部员工的工作开展支持。
- 入选理由：
- 助小咖，基于生成式大模型和分析式模型提供了联想企业级的交互机器人服务，同时提供了知识问答，政策查询，多模态接入，自动化任务执行，多机器人管理等丰富的功能，在联想内部支持了，IT 运维，HR，行政，财务，采购等多领域的智能助手服务，极大的提升了员工工作效率及体验；
- 助小咖，利用大模型理解和回答本地的 PDF、Word、PPT、Excel 等格式的文档，可以帮助用户快速找到文档中的信息，提高工作效率，并提供更好的用户体验；
- 助小咖帮助客户打造专属'场景助手'，支持在界面上调整提示工程，引导模型根据实际场景需要智能调整回复内容，帮助助小咖更好地理解和回答用户的问题。
▎案例 6：福田政务智慧助手'小福'
- 案例方/供应商：深圳市福田区政务服务数据管理局/华为云
- 应用领域：政务
- 案例详情：福田区政务服务数据管理局基于盘古政务大模型上线福田政务智慧助手'小福'，改变传统'一网通办'模式，针对高频、复杂事项，提供实时问答互动、智能秒批、政策推送等智慧政务服务。通过 AI 精准抓取交流对话字段，准确理解居民咨询意图，把老百姓的口语转化为政府办事的语言，提高政务办理效率，提升居民服务体验。
- 入选理由：
- 本案例成功提高了政务办理的效率，减少了繁琐的手续和等待时间，为居民提供了更加便捷、高效的政务服务体验。这不仅提升了政府的服务水平，也增强了居民对政府的信任和满意度；
- 政务服务正在向更加智能、精细、快捷的方向演进，基于大模型的智能助手成功改变了传统的'一网通办'模式，向更加智能化的政务服务迈进，其他政府部门可以借鉴其经验，推动智能化技术在政务服务中的应用。
▎案例 7：AIGC+ 客服数智化培训案例
- 案例方/供应商：维音
- 应用领域：IT/互联网
- 案例详情：客服培训是呼叫中心管理的重要环节，基于维音大模型服务平台 VisionGAI，维音升级 AI 客服培训系统 VisionTSIM，新版功能支持大模型智能生成陪练素材、上传多格式文件自动提取并生成陪练课程、基于行业模板库快捷搭建陪练课程等 AI 功能，目前已在维音全国运营中心项目职场展开规模化应用，无需人工 1V1 带教，极大提升新人培训、大促培训、新品培训等场景的实战培训效果。
- 入选理由：
- 智能陪练基于自然语言处理技术、情绪识别技术、大模型能力模拟服务情境，打破了传统培训场景的空间、时间限制，让每一位客服人员都能拥有量身定制的金牌教练；
- 维音以在金融、零售、科技、奢侈品、汽车等二十余行业积累的海量客服话术和培训材料为语料进行精调训练，使得大模型的输出内容满足真实服务场景中的各类细分需求，从而打造出适用于各行各业的生成式智能陪练课程。
▎案例 8：新东方：AIGC 让智能客服更智能
- 案例方/供应商：新东方/ 智齿科技
- 应用领域：教育
- 案例详情：以新东方为代表的教育教培机构的客服团队，每天都会收到大量的聚焦上课场景的咨询，包括售前支付问题、课程内容问题、售后退费续费等问题。为了更多地释放人工客服压力，同时提升问题的直接回答率，新东方与智齿科技达成合作，借助'AIGC+ 智能客服'融合能力，提升上课咨询场景的直接回答率，提升学院满意度。
- 入选理由：
- 本案例采用双库模式，当用户在线做咨询时，优先启用智齿科技知识库，在知识库无法作答的情况下再启动 AIGC 资料库，保证了输出答案的准确度；
- 在 AIGC 引擎下，企业只需上传原始材料即可自动提炼 FAQ 并扩展相似问，极大地降低了知识库冷启动与运维调优的工作量，同时也提高了知识库的效率、质量和持续优化能力，为企业提供了重要的价值和支持。
▎案例 9：西南电力设计院智能知识管理与知识问答项目
- 案例方/供应商：西南电力设计院/ 360 亿方云
- 应用领域：能源
- 案例详情：360 亿方云助力西南电力设计院实现知识管理和知识问答的智能化转型，针对电力设计院在管理制度、知识问答及办公流程中的痛点，采用先进的大模型技术，实现企业知识的智能化管理和高效利用，显著提高了电力设计院的管理效率和服务质量，展现了强大的实用价值和示范效应。
- 入选理由：
- 通过构建管理制度问答数字员工和专业知识问答系统，本案例显著提升了企业内部管理效率和员工的专业素养，降低了知识获取成本；
- 本案例充分发挥企业非结构化数据的价值，并基于大模型打造多个上层智能应用，包括 AI 文件助手、AI 云文档、AI 知识问答、AI 知识搜索等，为企业内部的知识问答场景提供可借鉴的成功经验。
▎案例 10：基于 AI 大模型的多路召回智能问答助手
- 案例方/供应商：之江实验室
- 应用领域：政务
- 案例详情：之江实验室基于 AI 大模型开发多路召回智能问答助手'小之知道'，满足知识问答和任务型问答混合场景，并支持多模态的问答输出，实现从文档中自动生成问答对以及相似问题的能力，提升问答知识库维护效率。'小之知道'目前已运用于之江实验室内部多个场景，包括办公场景问答、招聘场景问答、入职场景问答等，并通过能力集成的方式为内部多个产品进行赋能，包括'之江精灵'智能音箱、统一搜索等功能。
- 入选理由：
- 本案例提出了一种多路召回的多场景智能问答方法和系统，可以解决智能问答助手在多场景融合的问答场景下，现有技术召回精度低的问题，同时基于多路召回机制，满足多路模型并发要求，提升运行效率；
- 本案例通过大模型实现了批量从文档中自动提取问答对，提高问答对录入效率，还提供相似问题的生成能力，有助于提高问答的召回率。
04 核心评价维度
本次评选从价值性、实用性、创新性、示范性四个维度对案例进行定性与定量评价：
- 价值性：该案例促进企业商业目标的实现，提供了明确的商业价值，或者该案例具备社会价值，积极解决重要社会问题，对社会产生积极影响；
- 实用性：该案例的实施带来显著效果，在实际应用中表现出色，为企业和用户创造实际价值；
- 创新性：该案例具备独特的解决方案，彰显了技术创新的卓越性，引领行业发展，为市场注入新的创新动力；
- 示范性：该案例对同行业或其他行业大模型技术应用的开展和能力建设具有参考和借鉴意义。
05 未来展望
随着大模型技术的不断成熟，智能客服将不再局限于简单的问答匹配，而是向主动服务、情感陪伴、复杂任务执行等方向演进。企业应关注以下趋势：
- 多模态交互：结合语音、图像、视频等多种输入输出方式，提供更丰富的交互体验。
- Agent 自主规划：智能客服将具备更强的任务规划能力，能够自主调用 API 完成订票、退款等复杂操作。
- 隐私与安全：在数据合规日益严格的背景下，私有化部署和联邦学习将成为企业选择大模型方案的重要考量。
- 人机协作深化：从'辅助'走向'协作'，大模型将成为人类客服的超级助手，共同提升服务效能。
综上所述，大模型为智能客服带来了革命性的变化，企业需结合自身业务特点，选择合适的技术路径，规避实施陷阱，才能真正释放大模型的价值。
