GROCLM:基于大模型的杂货品类推荐方案
研究团队提出 GROCLM 微调语言模型,通过两阶段 LoRA 训练与受限解码机制,将周期性购买信号编码进模型,实测提升…
电商杂货场景下,用户购买行为具有明显的周期性,传统的商品级推荐方法在扩展性与准确性上存在瓶颈。近期发表于 arXiv 的一篇论文提出 GROCLM,将大语言模型微调后用于杂货品类推荐,并在真实生产环境中取得了可观的效果提升。
研究背景与动机
在线杂货购物增长迅速,推荐系统需要同时捕捉周期性复购信号与多样化的用户意图。与商品级推荐相比,品类级(category-level)推荐结构更稳定、实用性更强,更适合规模化部署。然而,直接使用大语言模型进行品类推荐存在两个核心难题:一是复购信号难以有效融入模型,二是输出必须严格落在预定义的品类空间内。GROCLM 针对这两个问题给出了对应的工程解法。
方法设计
GROCLM 的核心是一个经过微调的语言模型,整体采用两阶段 LoRA(低秩适配)训练策略,将周期性购买模式直接编码进模型参数,而不是通过提示词(prompt)进行条件化控制。这种做法相比 prompt 条件化能够更充分地利用复购信号。
在推理阶段,GROCLM 引入基于前缀树(trie)的受限解码机制,使模型输出被约束在一个预定义的品类空间内,确保结果的合法性与可控性。同时,模型一次性联合生成所有相关品类,而非逐项生成,从而保持较高的推理效率,适合线上部署。
实验结果
研究团队在两类数据上验证了 GROCLM 的效果:一是来自真实生产环境的专有数据集,二是公开基准数据集。实验结果显示,GROCLM 在多个评估指标上均稳定优于强基线方法。
更具说服力的是线上生产测试:在补货推荐(restocking)任务中,GROCLM 带来了 7.5% 的「每次曝光带来的购物车添加数」相对提升,同时保持了较高的推理效率。这一结果直接证明了大语言模型在结构化推荐场景中的实用价值。
总结
GROCLM 的工作表明,通过两阶段 LoRA 微调与 trie 受限解码的组合,大语言模型可以有效迁移到品类级推荐任务中,并在真实业务指标上带来可衡量的增益。对于正在探索 LLM 与推荐系统结合的工程团队而言,这一案例提供了可参考的训练与解码范式。
