京小智融入大模型助力电商零售提升咨询转化
2023-12-21 08:48
12月21日消息,京东域内商家提供触达、服务、洞察的一体化智能服务平台——京小智,秉承京东云大小模型协同理念,不断推进在零售电商场景落地,旨在为品牌商家降本增效,提升咨询转化。今年11.11,京小智服务商家数量增长至超36万,其中中小商家同比增加102%,较今年618期间增加62%。
营销场景中,京小智正在探索为商家经营决策提供“专属顾问”,使产品操作摆脱传统“拖拉拽”,只需一句话指令,就能让大模型智能生成数据分析报告,为店铺生意经营提供专业指导。
图源:京小智官网
销售场景中,京小智实现分钟级文案自动生成,极大提升应答效率和准确率,助力商家提高咨询转化的效率。比如当用户进行商品比较时,商家过去要花费大量时间拆解用户意图,再生成解决方案手动配置在后台。借助京小智,商家仅需上传商品使用方法的文档,便可以“文档应答”自动拆解问答,支持文字、图表等多种形式。过去这一过程需数日,如今仅需几分钟,商品对比采纳率高达87%。
当用户进行商品属性问答时,京小智结合言犀大模型能力自动生成文案,以更加拟人化的方式来解答,应答准确率提升5%;求购推荐场景时,京小智根据用户和人工客服的沟通内容,基于用户表达的商品需求,自动推荐并展示推荐理由,推荐准确率提升27%。
客服场景中,京小智通过打通京东站内活动、物流、服务单、发票、订单修改等各业务场景,综合输出“意图识别”技术能力,实现价保申请等功能的一键调用。比如,当消费者表露出寻求“便宜”“降价”的意图,京小智可自动识别并推送功能,为客户退差价,无需客户跳转和等待,减少客服操作时间。更在夜间店铺无人值守时,为商家提供用户咨询应答,提升夜间转化。
图源:京东云公众号
因覆盖电商零售复杂的全流程环节,京小智以“小步快跑”推进大小模型高效协同:逐个场景引入大模型,实现底层通用能力和复杂推理;全流程关键节点接入小模型,实现场景的快速定位和识别。
比如在用户咨询,京小智往往需要通过多轮对话,才能让消费者将问题表述清楚。这一过程中,小模型负责“意图识别”,对用户意图做出快速和精准的判断,由此进入推荐导购、属性应答、商品对比等不同场景的应答模块;再把这一识别结果和此前多轮对话学习,交给大模型,输出具体应答。
同时,在保证能力效果的前提下,大模型本身也在加速。据介绍,言犀团队通过实现算法层和体系结构层等能力,以量化、稀疏化、减脂蒸馏、参数共享、内存优化、算子融合、动态批处理、流式解码等方式,优化大模型推理系统,从而使大模型适当变小、变快。