客服节精彩回顾 刘瑛：大模型带来智能客服体验的跃迁

 

客户观察网消息：5月15日-17日，2024（第八届）中国客户服务节（简称“客服节”）在湖南省衡阳市盛大召开。百度智能云客悦智能客服资深产品经理刘瑛女士在客服节为大家带来『大模型带来智能客服体验的跃迁』的主题分享。

图 百度智能云客悦智能客服资深产品经理 刘瑛

 

嘉宾介绍

 

　　刘瑛，百度 ACG AI 应用产品部资深产品经理，百度智能对话及智能客服产品负责人；拥有14年互联网产品从业经验，以及7年深耕“面向企业的智能客服”市场探索与商业产品构建。专注智能语音、自然语言处理、智能对话等人工智能技术在智能呼叫中心的应用与发展。

 

　　秉承“科技改变生活，创新成就未来”的理念，带领团队打造国内领先地位的对话式AI产品，并广泛应用于金融、运营商、政务、汽车、能源、航空、政务等多行业的企业服务与营销的智能化升级，积累了丰富的人工智能技术赋能企业重塑服务运营及体验升级的实践经验。

 

　　大模型技术的本质其实是自然语言处理技术发展的延伸。百度做自然语言技术已经有十几年时间了，在四五年前就发布了第一批自然语言预训练技术（大模型技术前身）。

 

　　2023年，随着OpenAI、ChatGPT的火爆，大模型正式成为百度最重要的技术方向和战略内容。百度智能云主要是做ToB的，下载文心一言APP，大家可以实时体验大模型现在进展的程度。

 

　　然而，ToC的体验才是最直接的。以前大家想要通过搜索找到自己真正想要的答案，需要多次点击多次搜索。但从去年开始，只需打开“文心一言”跟大模型聊两句就会得到想要的结果。如此一来，大大增加了用户的体验感，所以ToC其实是大模型发展得最快的方向。

 

　　大模型真正应用到企业中的路径还是非常长的，需要经历对大模型的崇拜，到落地，从不理性到理性再到务实这么一个发展阶段。百度做大模型ToB的目标很明确，就是把大模型用在企业服务中，使业务发展增长，降本增效才是核心的终极目标。

 

 

 

用好大模型仍存难题

 

　　为什么大模型在去年如此火爆的情况下，今年仍然没有在实际企业办公以及生活中发挥巨大的价值，是因为很多问题其实都没有被解决。

 

　　（一）能力边界与场景需求匹配问题

 

　　在客户服务这样一个非常严肃的场景中，企业员工要面向客户正确介绍产品、提供服务，这代表着企业的权威形象。而大模型有时候会与客户聊企业之外的内容，可以谈天说地，聊各种各样的问题，把它用在企业场景中，就等于要把自由的灵魂框定在企业服务里，这是需要做很多工作的。

 

　　（二）大模型相关技术的组合应用问题

 

　　去年有很多人都认为，大模型来了，就可以处理所有的事情。但其实并不是，大模型本质其实是自然语言处理，也就是说在和它交流时，它也需要用文本知识进行补充。日常中，客服代表要给客户提供服务时，需要看客户的系统、订单，以及客户的画像和企业内各种各样的系统等，可能是文档类的，也可能是图片或视频，但这些东西能不能直接给大模型，它目前还无法承接。未来，想让大模型用于客户服务当中，像客服代表一样顺畅地跟客户沟通，这些数据都要被大模型学习和使用，就需要解决各种各样结合其他技术的问题。所以，大模型不是万能的，仍需要结合其他技术。

 

　　（三）跟算力有关

 

　　现在国内GPU相对较少，不仅价格比较高昂，获取也很困难，处于“卡脖子”的状态。过去几年，每个企业基本上都建设过“智能客服”，在建设初期肯定已经购买了非常多算力，但这些算力能不能用在未来的大模型技术上，这些是面临的必须解决的问题。所以，IT设施的融合、保障安全，也是落地大模型必须解决的重要问题。

 

 

 

大模型带来智能客服

图 百度智能云嘉宾分享PPT

 

　　大模型其实是个技术，不是产品，也不是业务，得把这个技术变成不同业务的产品，才能服务到业务中。

 

　　AI刚出现的时候，很多人惶恐地认为它会代替人类，会让很多人失去“饭碗”。其实不应该是这样的，我秉承的是“技术向善”理念。我认为人工智能技术、新型的大模型技术、AGI的技术，都应该是技术向善的，应该让每个员工成为超级员工，让每个员工发挥200%、300%的价值。

 

　　我在智能客服方面工作已经有7年时间了，这7年来，经历和感受到了智能客服的不同技术变革，以及它所带来的业务变化。

 

图 百度智能云嘉宾分享PPT

 

第一阶段：2008年之前基本上没有什么智能客服，从2008年到2016年，这个阶段的技术体系叫做“规则系统”。比如对着智能客服说“我要办卡”，那么它会根据“办卡”两个字进行系统回复。它注定只能做一些简单场景的咨询或知识问答，这就是出现的第一批智能客服。

 

　　第二阶段：2016年既是AI的元年，也是智能客服商业化的元年，那时候百度推出了智能客服智能对话平台，即“判别式AI”。这个阶段的AI可以称为“智能客服2.0”，它能够突破原来的规则系统，更容易理解客户在说什么，还可以跟客户进行多轮对话。智能客服2.0可以让机器人客服尝试去做一些业务办理，比如查话费、查账单、退卡、办挂失等等，这些简单的业务办理类的业务，判别式AI都可以做到。

 

　　第三阶段：如今的智能客服已经正式进入到3.0阶段了。2023年，由于AGI时代到来，大众认为这是生成式AI的元年，也是智能客服正式进入生成式AI大语言模型的3.0时代。如今3.0时代刚刚开始，尚未达到可以直接对客的程度，仍然需要依赖人工客服，但人工客服可以借助智能客服，更好地应对客诉。希望3.0时代的智能客服，能让每一个客服代表都成为超级客服代表。

 

以大模型为底座，赋能客服中心的服务与营销

 

　　客服并不只是客服。以前，普遍都认为客服是成本中心，实际上它应该是成本和营销中心。既要做服务，也要做营销。现在流量非常昂贵，获客成本是非常高的。所以，如何在客服做好服务的同时还能兼顾营销是非常重要的话题。希望智能客服可以深入到客户服务的全流程，从培育、获客、激活、服务、留存、变现、到推荐与裂变等全流程环节。

 

图 百度智能云嘉宾分享PPT

 

大模型如何在客服场景中更好地发挥作用

 

　　在做大模型的时候有两个关键词：一个叫做“扬长避短”，一个叫做“分而治之”。现在大模型无法普遍使用，主要是因为算力成本高、响应延时长、复杂场景推理不稳定、生成内容无法保障100%准确。根据经验总结了如下应对方案：

 

 

1.大、小模型结合，扬长避短。

 

2.将复杂问题拆解为简单子问题，提升大模型处理的稳定性。

 

3.客服场景数据SFT大模型，结合话术模板干预。

 

 

　　借助大模型，百度智能云生成了关键的几个产品，一个是“大模型的知识问答”，它可以实现从上万个文档中总结生成出答案，并且还会标注答案来源，帮助用户核实答案准确度。第二是“大模型的语意理解”，上一代的智能客服技术被大家戏称为“人工智障”，因为它无法理解表述中的“潜台词”，需要很多的人工标注才能使用。而现在可以借助大模型来做一些语意理解，更好地判断客户语义中的“潜台词”。

 

　　这些技术并不都是用在机器人身上的，也可以赋能给客服代表，让他们的工作更轻松、更高效。

 

 

 

图 百度智能云嘉宾分享PPT

 

　　百度智能云把这些产品都集中在了“百度智能云客悦”上，它是一个发展了七八年的业务线，用大模型之后它有哪些特征呢？

 

 

1. 对话更友好，用户问题自助解决率提升到 90%+。

 

2. 构建Agent更快，1小时拥有大模型机器人。

 

3. 运营更高效，智能客服运营成本整体降低48%。

 

4. 部署更简单，全渠道多场景一键集成。

 

 

大模型智能客服助手，辅助人工成为更好的客服

图 百度智能云嘉宾分享PPT

 

　　上图是利用大模型辅助客服的示意图。座席以前会使用各种各样的助手产品，现在我们借助大模型改造了很多环节，可以实现“对用户打标签”以及“随意更换业务流程”，从而实现一对多个客户。服务之后，比如提交工单，做工作小结等工作，借助大模型几秒就可以完成，而且准确率非常高。这些技术也会用在企业的座席知识库里，用在智能质检里。

 

　　针对企业的各种数据或者对客服务，需要思考的是大模型应该具备什么样的素质、能力和人设。针对座席的业务，客悦的智能客服可以做一个座席助手进行专门处理；在呼叫中心日常对内的工作当中，客悦的智能客服也可以创造一些“员工助手”；不管是针对机器人服务还是人的服务，客悦的智能客服可以做各种各样的洞察，挖掘客户的一些潜在需求，然后辅助营销。这些内容都是做大模型的平台和产品已经具备的一些能力，希望通过做这些，能让呼叫中心、客服中心形成自闭环，更智能地理解和对客沟通。

 

 

文稿来源 |2024（第八届）中国客户服务节

 

分享嘉宾 | 百度智能云客悦智能客服资深产品经理 刘瑛

 

主旨讲话 | 大模型带来智能客服体验的跃迁