UniROM：统一广告排序，让平台收益大增

Buaa Wht

6-29

猴哥: 咱们都知道啊，现在的广告系统为了效率，都喜欢搞那种“层层把关”的多级筛选机制。但你有没有琢磨过，这种听起来挺靠谱的架构，它背后藏着多少“坑”，甚至能把咱们平台的钱袋子都给掏空了？

晓曼: 哎呀，你可算是说到点子上了，这简直是咱们行业的老大难问题！这种多级瀑布流的模式，你一说我就想到，它就像一场马拉松接力赛，每个选手就只顾着自己脚下这一小段儿跑得快不快，至于终点线谁赢了？那不好意思，不归我管！结果就是，整体表现稀碎，因为大家的目标和能力根本就不在一个频道上。

猴哥: 听你这么一说，那不就是大家都在“各自为战”，没人管大局呗？

晓曼: 哪儿止是“各自为战”啊！更要命的是，它完全忽视了广告之间那种微妙的“外部性”。打个比方，系统决定让A广告排第一，它根本没想过，A旁边放个B，再旁边放个C，这仨货凑一块儿能产生啥“化学反应”？就因为这种“人情世故”被忽略了，最终咱们的广告效果和平台的真金白银都跟着缩水了。

猴哥: 哎呀，听你这么一分析，简直是把我们心里的痛点都给挖出来了！所以，现在这行业是不是特别需要一个能彻底把这些“疑难杂症”治好的“灵丹妙药”啊？有没有那么一种更聪明、更给力的办法，能把咱们在线广告的未来彻底翻新一遍？

晓曼: 嘿！你别说，还真有！美团的那些大神们，就是为了解决这些“老大难”，捣鼓出了一个“革命性”的解决方案——UniROM！你想象一下，如果咱们的广告系统不再是那些七拐八绕的层层关卡，而是一个能“一气呵成”、直接拍板的超级“大脑”，它能从茫茫广告海里，直接给你挑出最完美的那个列表，那画面，简直不要太美！

猴哥: 哇哦！这听起来简直就是广告界的“大统一理论”啊！厉害了！那UniROM到底是怎么做到这种“统一”的呢？它在技术上都攻克了哪些“硬骨头”，才能把这么复杂的事儿，简化成一个模型就搞定了？

晓曼: 它最牛的地方啊，就是用一个“端到端”的生成式模型，直接把过去那些繁琐的阶段全都给“打包”取代了。技术上呢，它搞了个特别聪明的“混合特征服务”设计，把用户和广告的特征处理给分开了，一下就解决了计算上的“堵车”问题。而且啊，它还用了一个叫RecFormer的新架构，里面那个“聚类注意力机制”简直是神来之笔，能把海量广告之间那些盘根错节的关系，处理得又快又准！

猴哥: UniROM这些技术创新听着是挺让人热血沸腾的，但说一千道一万，最后效果怎么样，还得看它在真实世界里跑得怎么样啊！那UniROM在咱们实际的广告投放中，到底带来了哪些让人眼前一亮的提升呢？

晓曼: 理论突破那是必须的，但UniROM真正让人拍案叫绝的，是它在实战中的表现！它不光理论上漂亮得一塌糊涂，更是在真金白银的广告战场上，狠狠地证明了自己的实力。咱们在大规模的线上A/B测试里一跑，那结果，简直是惊掉下巴！

猴哥: 哎哟，快快快，有具体数字吗？赶紧亮出来！

晓曼: 那必须有啊！数据显示，用户的点击率直接冲高了5.2%！而咱们平台的千次展示收入，也就是大家常说的RPM，更是直接飙升了13.6%！更厉害的是，广告主的投资回报率ROI也跟着涨了3.1%！这简直就是平台、用户、广告主，三方都乐开了花的“共赢”局面啊！

猴哥: 天呐，这简直是神了！一个统一的系统，居然能同时把这么多关键指标都给“盘活”了，太不可思议了！

晓曼: 可不是嘛！这就铁板钉钉地证明了，咱们只要有个统一的“排序大脑”在掌舵，整个广告生态的价值就能像坐了火箭一样，“嗖”地一下实现跨越式增长！

猴哥: 嗯，UniROM的成功，我觉得它不仅仅是技术上的一次大胜利，更像是在告诉我们：嘿，在线广告这个领域要变天了！它真真切切地给我们画了一个大饼，告诉我们通过这种“端到端”的学习，咱们能达到过去想都不敢想的效率和精准度。这可不光是技术层面的事儿了，它直接关系到咱们整个数字经济的未来啊！

Outline

现代工业广告系统普遍采用多级级联架构(MCA)，但其面临优化目标不一致和难以捕捉广告外部性等挑战，影响系统效率和平台盈利。本文提出UniROM，一种创新的端到端生成式架构，旨在将在线广告排序统一为单一模型，通过技术创新克服传统MCA的局限性，显著提升用户体验、平台收益和广告主投资回报率。UniROM整合了混合特征服务、RecFormer和AucFormer等核心组件，并采用两阶段训练策略，实现了从特征处理到最终广告序列生成的全面优化。

现有级联架构(MCA)的挑战

性能不一致性： 不同阶段（召回、预排序、排序、竞价）的优化目标不一致，且能力差异大，导致预测偏差和最终广告质量下降。
忽略广告外部性： 大多数现有排序方法基于独立点击率假设，未能考虑候选广告之间的复杂交互和相互影响，限制了性能。
系统效率与盈利受损： 上述问题最终导致系统有效性受损，并降低平台盈利能力。

UniROM：统一的端到端架构

核心理念： 将在线广告排序统一为一个模型(Uni fies online advertising Ranking as One Model)，取代多级级联，直接从完整候选广告库生成最优广告序列。
应用场景： 尤其适用于基于位置服务(LBS)的广告系统，通过缩小候选集（如同一城市约10^5个广告）实现精细化建模。
关键优势： 消除不同管道阶段固有的目标冲突，实现端到端优化，提升用户兴趣探索和广告表示准确性。

UniROM的核心技术创新

混合特征服务(HFS)： 算法与引擎协同设计，解耦用户和广告特征处理，通过本地存储和批量处理降低延迟和I/O成本，同时保持特征表达力。
RecFormer： 创新的推荐框架，利用Global Cluster-Former (GCF)高效建模序列内关系，以及Mid-fusion Interest-Former (MIF)提取跨序列互信息，解决大规模注意力机制的计算瓶颈。
AucFormer： 优化广告排序以符合平台目标，包含非自回归(NAR)生成器用于同时预测分配概率，以及排列感知评估器更准确地估计用户参与度（如pCTR, pCVR）。
支付网络： 在AucFormer中引入，通过神经网络学习最优支付规则，以满足经济约束（如个体理性IR）。

两阶段训练策略

预训练阶段： 重点是根据用户参与信号（如点击、购买）来对齐UniROM，利用二元交叉熵损失进行优化。
后训练阶段： 采用基于强化学习的拍卖反馈优化(RLAF)，以平台盈利目标为导向，并指导支付网络满足预定义的经济约束（如激励兼容IC）。

实验结果与显著成效

离线评估： 在美团工业数据集上，UniROM在Recall@50、AUC、eCTR、eRPM等指标上显著优于现有SOTA的MCA，特别是IC指标Ψ从约9%大幅降至2.3%。
在线A/B测试： 实际部署显示，UniROM相较基线MCA在CTR、RPM和ROI上分别提升了+5.2%、+13.6%和+3.1%，同时在线响应时间仅增加2.2%。
消融研究与特征分析： 验证了GCF、MIF、AucFormer等组件的有效性，并证实MIF能够有效弥补交叉特征消除带来的性能损失。

Script

猴哥: 听你这么一说，那不就是大家都在“各自为战”，没人管大局呗？

猴哥: 哎哟，快快快，有具体数字吗？赶紧亮出来！

猴哥: 天呐，这简直是神了！一个统一的系统，居然能同时把这么多关键指标都给“盘活”了，太不可思议了！