生成式推荐系统中的预测解码加速
系统介绍生成式推荐系统中预测解码(Speculative Decoding)技术的最新进展,涵盖 AtSpeed (ICLR'25)、LASER (SIGIR'25)、NEZHA (WWW'26) 和 SpecGR (AAAI'26) 四项代表性工作。
共 2 篇文章
系统介绍生成式推荐系统中预测解码(Speculative Decoding)技术的最新进展,涵盖 AtSpeed (ICLR'25)、LASER (SIGIR'25)、NEZHA (WWW'26) 和 SpecGR (AAAI'26) 四项代表性工作。
利用PRM监督生成式推荐模型的中间解码步骤,并由此获得test-time scaling的能力,在推理阶段仅需增加少量计算量就能稳定提升性能。