以大模型为代表的人工智能时代,为千行百业带来新的想象空间。尤其在零售电商这一复杂场景中,凭借在内容生成和语义理解方面的优秀表现,大模型正走入下一站,在应用场景中释放产业价值

京小智,这一为京东域内商家提供触达、服务、洞察的一体化智能服务平台,秉承京东云大小模型协同理念,持续深耕技术,不断推进在零售电商场景落地,旨在为品牌商家降本增效,提升咨询转化。

秉承大小模型协同理念 京东云助力电商零售降本增效  第1张

今年11.11关键节点,京小智交出亮眼成绩单:服务商家数量增长至超36万,其中中小商家同比增加102%,较今年618期间增加62%,有效带动品牌商家营销服一体化增长。

技术场景高度融合 助力营销服一体化增长

大模型时代,以技术手段实现更有效的用户触达、更高效的交易转化,更智能的服务体验,是品牌商当下的迫切需求。

营销场景中,京小智为商家经营决策提供“专属顾问”,使产品操作摆脱传统“拖拉拽”,只需一句话指令,就能让大模型智能生成数据分析报告,为店铺生意经营提供专业指导,为营销运营降本增效,实现用户有效触达。

销售场景中,京小智实现分钟级文案自动生成,极大提升应答效率和准确率,助力商家提高咨询转化的效率。比如当用户进行商品比较时,商家过去要花费大量时间拆解用户意图,再生成解决方案手动配置在后台。借助京小智,商家仅需上传商品使用方法的文档,便可以“文档应答”自动拆解问答,支持文字、图表等多种形式。过去这一过程需数日,如今仅需几分钟,商品对比采纳率高达87%。

当用户进行商品属性问答时,京小智结合言犀大模型能力自动生成文案,以更加拟人化的方式来解答,应答准确率提升5%;求购推荐场景时,京小智根据用户和人工客服的沟通内容,基于用户表达的商品需求,自动推荐并展示推荐理由,推荐准确率提升27%

这一高效的咨询转化,有赖于领先行业的“意图识别”技术。比如,当用户询问“能否推荐可刷公交卡的手机”时,经意图识别后,可精准推荐具备NFC功能的手机。还能像专业的导购员,进一步引导用户回复期待的价格、屏幕尺寸等其他商品属性,进一步推荐更适合需求的手机。

客服场景中,京小智通过打通京东站内活动、物流、服务单、发票、订单修改等各业务场景,综合输出“意图识别”技术能力,实现价保申请等功能的一键调用。比如,当消费者表露出寻求“便宜”“降价”的意图,京小智可自动识别并推送功能,为客户退差价,无需客户跳转和等待,提升消费者体验,减少客服操作时间。更在夜间店铺无人值守时,为商家提供用户咨询应答,提升夜间转化。

大小模型高效协同 驱动零售电商应用落地

生于产业,服务产业。诞生于京东零售场景的京小智,具备优质专业数据这一天然优势:京东6亿用户、超10年零售积累的海量交互数据,被源源不断“喂”入大模型,使其拥有大量专业且真实的语料。

然而,大模型虽然拥有海量专业知识,能进行深入思考,但在落地应用场景时,面临时延、算力成本、隐私数据安全等问题。更合理的路径是,大模型负责输出通用能力,小模型负责推理执行,一方面提升系统的覆盖度和准确率,另一方面降低推理延时、保证隐私数据安全、节约算力。基于这一背景,大小模型协同变得更具现实意义。

因覆盖电商零售复杂的全流程环节,京小智以“小步快跑”推进大小模型高效协同:逐个场景引入大模型,实现底层通用能力和复杂推理;全流程关键节点接入小模型,实现场景的快速定位和识别。

比如在用户咨询,京小智往往需要通过多轮对话,才能让消费者将问题表述清楚。这一过程中,小模型负责“意图识别”,对用户意图做出快速和精准的判断,由此进入推荐导购、属性应答、商品对比等不同场景的应答模块;再把这一识别结果和此前多轮对话学习,交给大模型,输出具体应答。

同时,在保证能力效果的前提下,大模型本身也在加速。据介绍,言犀团队通过实现算法层和体系结构层等能力,以量化、稀疏化、减脂蒸馏、参数共享、内存优化、算子融合、动态批处理、流式解码等方式,优化大模型推理系统,从而使大模型适当变小、变快。

未来,京东云还将持续深耕技术,结合零售电商领域的营销运营等数智化经验,持续推动大模型走向行业深处,以京小智赋能更多品牌商家,实现电商零售营销服一体化高质量、可持续的增长。