27岁的开发工程师田丰今年在公司过年。他的办公桌上,左边的独立显示器展示着“灵犀”大模型的测试成效,右边的笔记本电脑上不断滚动着密密麻麻的代码。
春节前夕,他和同事就开始对这款叫作“灵犀”的大模型进行测试,“灵犀”灵不灵,影响着今年春节中国移动用户在App上的使用感受。春节期间,中国移动的用户不用再打客服电话,只需要在App页面上唤醒“守”在首页的AI客服“灵犀”,说出简单的指令,就能随时随地查找问题、办理业务。
记者了解到,过去,全国各省(区、市)的移动App种类繁多,业务办理也“各成一派”。2024年,中国移动整合通信服务入口,App内基于大模型技术的AI客服“灵犀”,更为通信业务客服打开了一扇智能化的“新大门”。
在线中心服营系统开发中心系统架构师、“AI+军团”临时党支部书记王文敏告诉中青报·中青网记者,春节期间用户大规模跨区域流动,咨询量增加、咨询时间跨度长,加上假期客服资源相对紧缺,通信服务行业每年都要面临春节“大考”,对运营商的服务能力有着极高的要求。
王文敏介绍,为保证春节期间大模型服务运转流畅,去年年底开始,在线中心调动全国各地百余名技术、运营人员,在河南省郑州市组建起跨条线、跨单位、跨地域的“AI+军团”。“AI+军团”以青年为主,基于不同业务类型、业务条件和需求,组建了模型算法组、运营评测组、资源支撑组等8个“作战小组”,集中攻坚不同的大模型开发任务。“大家集中办公,能够更有效地调动工程师力量,给春节期间大模型的运营服务提供保障。”王文敏说。
今年是丁冲从互联网运营转岗到大模型训练工作的第二年。在她看来,训练大模型就是让服务更贴合用户使用习惯。
“有时用户忘记了查询账单的密码,一般会说‘我密码忘记了’‘密码是几位数’等,这类问题的标准指令其实是‘密码重置’。我们大模型训练师要做的,就是将用户习惯的口语化表达‘翻译’为机器语言,让大模型能准确识别用户需求。”丁冲说,“训练师需要穷尽用户所有可能的说法,减少可能产生的歧义,让大模型的语音识别越来越准确。”
数据智能中心算法工程师杨春杰来自在线中心的言犀“青创先锋”工作室,工作室35岁以下人员占比约88%。这支“AI+军团”中,杨春杰和工作室成员负责攻克图片视频理解、多轮交互等大模型核心技术,实现大模型在AI客服“灵犀”中“文本+图片+视频”等多模态交互能力的应用。
“以图片交互为例,用户在刷短视频时,看到视频里说的某个流量套餐比较划算,只需要把视频内容截图,发送给我们的客服‘灵犀’,经AI识别后就可以进行在线咨询和办理。”杨春杰说,AI客服能够准确识别图片中的信息,就是利用了他们开发的大模型图片理解能力。在传统的文字和语音之外,图片、视频等形式的加入,能够大大提升效率,让用户以更多样的形式完成所需。
这个春节已是在线中心河南分中心“10086”客服明星、客服班组长关鹏鹏坚守岗位的第14年。和往年一样,他戴着耳机,坐在工位上,忙碌地接起一通又一通咨询电话。
但今年,关鹏鹏觉得客服工作更“轻松”了。“现在接听用户的电话时,基于大模型技术的‘数字员工’会根据通话内容智能分析用户遇到的问题,即时获取相应办理节点推荐给我们。客服人员在电脑上‘一键提单’,省去了打字输入用户需求的流程,我们也能立刻给用户反馈。”如今,面对用户的复杂问题,关鹏鹏每通电话的处理时间从以前的5分钟缩短至1分多钟。
在线中心河南分中心数据智能运营组的黄娜今年也坚守在春节夜班客服岗位上。她告诉记者,春节期间出国游玩的用户数量激增,国际来电特别多。
因为时差,一些用户在国外打客服电话时,国内已是深夜。相较在国内,用户在国外一般更依赖流畅的通信服务,面临无法上网、通话异常等问题时容易焦急。客服的处理时间越短,用户的体验越好。这对夜班客服的耐心、注意力、应急处理能力提出了极高的要求。“这个春节,利用大模型技术,夜间客服也能够自动匹配用户需求。”黄娜说。
春节期间,为了保障通信服务运营平稳,在线中心利用数字技术自主研发了“云网一体化调度系统”,调动全网客服资源有效流转。28岁的徐怡佳在多媒体运营调度中心工作。如今,依托调度系统,她能够依据情况实时调动中国移动在31个省(区、市)的客服资源。
“春节假期,用户跨区域流动迅速、密集,很可能出现客服资源紧缺的情况。”徐怡佳说,当某地客服资源无法有效保障用户需求时,24小时值班人员能够利用全网调度,在5分钟内组织任意一个有空闲资源的省份,为资源紧缺的省份提供支撑。
在线中心目前的系统服务资源和算力资源按照“异地多活”的方式在河南洛阳和江苏淮安进行“双中心”部署,在线中心服营系统开发中心的张恒伟介绍,今年春节恰逢“月末月初”,是用户服务需求高峰期,为保障春节期间中国移动App和“10086”热线的稳定运行,在线中心成立了特别的“系统稳定保障小组”。
“1分钟发现,5分钟定位,10分钟恢复,这是我们对于系统故障处理的目标和红线。”张恒伟说,今年春节前夕,保障小组就开展了系统应急模拟演练,通过加强预警和强化巡检,确保春节期间系统可用性保持在99.99%以上,保障服务“永在线”。