人大高瓴与斯坦福提出 LAMA:把拍卖写进 Token 生成过程
人大高瓴与斯坦福联合发布论文,提出面向大模型原生广告的 Token 级拍卖机制 LAMA,将广告分配嵌入到生成过程之中。
近日,来自中国人民大学高瓴人工智能学院与斯坦福大学的研究团队联合发布论文《Token-Level Advertising》,提出了一种面向大模型原生广告的新机制 LAMA(Latent Advertiser Mixture Auction,潜在广告主混合拍卖)。其核心主张是:当回答由大模型逐 Token 生成时,广告机会本身也在被同步「塑造」,因此拍卖应当嵌入到生成过程之中,而非在生成结束后再做分配。
从「抢广告位」到「竞争生成方向」
过去三十年的在线广告,建立在一个默认前提之上:广告位先存在,拍卖再决定谁获得它。无论是搜索结果的排名位,还是信息流中的具体展示位,都是预先定义好的机会窗口。但大模型的回答是逐字生成的——某个品牌是否出现在回答里、在哪里出现、以何种方式被介绍,都取决于模型此前已经写下的内容。
研究团队将这种新范式概括为「生成即分配(Generation as Allocation)」:生成过程与广告分配一同演变,平台每生成一个 Token,都在实时影响回答的续写方向,也在重新调整各广告主最终获得曝光的概率。
这一议题的紧迫性来自搜索范式的实际迁移。Pew Research Center 对美国用户在 Google 上大规模浏览行为的分析显示:当搜索结果出现 AI 摘要时,用户点击传统蓝色链接的比例从 15% 暴跌至 8%。OpenAI 已正式上线 ChatGPT Ads,Google 也将广告嵌入 AI Overviews,回答中直接挂上赞助商卡片。当载体从整页搜索结果变成一段实时生成的回答,「广告究竟应该拍卖什么」便成为产业界与学术界共同追问的新问题。
LAMA 的核心机制
LAMA 的运行包含三个步骤,每一步都对应一次局部决策:
- 报告:广告主针对当前已写出的文本,报告「接下来这样写对我有多大价值」,形成各自偏好的续写方向。
- 生成:参考语言模型结合各广告主的价值报告,逐 Token 生成回答。
- 更新:根据新写出的内容是否符合某位广告主的偏好方向,实时更新其获得最终曝光的概率。
回答生成完毕后,平台按最终概率选出赢家,并通过外链或赞助卡片形式完成曝光。实际部署时,这些价值报告可以由平台侧模型代为计算,类似当前广告系统中的自动出价(Auto-bidding)服务。
为防止广告主在生成途中随意「改口」,LAMA 设计了配套的局部报告校验与支付规则:每一步只需做一次前后一致性核对,便能限制广告主谎报;支付则随生成过程动态调整,让影响生成、争取曝光与承担费用形成闭环。
理论上,LAMA 满足马尔可夫占优策略激励兼容(Markov DSIC):无论其他广告主采取什么策略,只要一位广告主此前如实报告,那么在后续任何可达的生成状态下,继续如实报告都不会比改用其他策略更差。换言之,「诚实」不仅适用于开场报价,还能贯穿整个生成过程。同时,机制还具备社会福利保证:以广告价值减去偏离原生回答的惩罚项为目标,其与理想最优机制的差距存在明确理论上界,约束了广告对用户体验的负面影响。
实验:平台与广告主双赢
研究团队在 Webis Generated Native Ads 2024 数据集上选取了 1239 条真实商业搜索查询,覆盖健身、度假、汽车三类典型场景,每个场景构成三广告主的竞争环境。实验以 Qwen3-14B 作为参考语言模型,通过 LoRA 训练得到广告主共享的报告模型;广告价值由开源预测模型预估,用户体验则采用 GEM-Bench 提供的相关性、信息量、流畅连贯、广告自然度、广告事实性与侵入性六项指标综合评估。
基线方法包括「生成前分配」与「生成后分配」两种分配方式,搭配原生内容、编辑插入、强化学习三种生成方法,以及答案级聚合机制 MOSAIC。结果显示,LAMA 在四项核心指标上均取得最高分:
- 平台收入:+10.7%
- 广告主价值:+3.8%
- 用户体验:未出现明显下降
以度假场景下的查询「best beach vacations in the world」为例:参考回答仅讨论目的地与规划因素;LAMA 生成的回答中,前段出现 Expedia,后段出现 Tripadvisor,广告主在生成过程中交替控制话语权,但文本依然自然连贯。生成结束后,Tripadvisor 的最终分配概率显著高于对手。研究团队分析认为,Tripadvisor 的句子更直接地讲清了产品功能——比较目的地、查看游客评价、筛选住宿与体验,因而具备更完整的价值表达。
扰动实验还显示:尽管报价越高,广告主的 Token 占比、分配概率与支付都会水涨船高,但其真实期望效用并不会无限上升——恰好在诚实报告时达到峰值。这正是「激励兼容」理论保证的具体体现:通过谎报抬价虽然能在回答中抢到更多影响,却因更高的支付而得不偿失。
从分配位置到生成即分配
研究团队认为,生成式广告最自然的落脚点是用户本来就在寻求商业建议的场景:购物时让数字导购比较商品、出游时挑选酒店,或让智能体选择工作流中的付费工具。当商业信息回应了实际需求、并且有明确的广告边界标识、没有破坏回答的客观事实时,它就更有可能被用户接受。
LAMA 所探索的,正是这一愿景下的机制实现路径:让广告主在生成过程中竞争,同时用规则约束策略行为、平衡商业价值与回答质量。论文认为,从「分配位置」迈向「生成即分配」,将为大模型原生广告机制的设计提供一条新的思路。
