各大厂商CTR广告预估模型的优缺点对比
收藏



向AI转型的程序员都关注了这个号👇👇👇

机器学习AI算法工程  公众号:datayx




笔者对各大厂商CTR预估模型的优缺点进行对比,并结合自身的使用和理解,梳理出一条CTR预估模型的发展脉络,希望帮助到有需要的同学。



1. 背景


2. LR 海量高纬离散特征 (广点通精排)


3. GBDT 少量低纬连续特征 (Yahoo & Bing)


4. GBDT+LR (FaceBook)


5. FM+DNN (百度凤巢)


6. MLR (阿里妈妈)


7. FTRL_Proximal (Google)



1. 背景


众所周知,广告平台的最终目标是追求收益最大化,以 CPC 广告为例,平台收益既与 CPC 单价有关,又与预测 CTR 有关。在排序的时候,CPC 可以认为是一个确定的值,所以这里的关键是预测用户的点击率 pCTR。





2.1 正则化

为了防止过拟合,通常会在损失函数后面增加惩罚项 L1 正则或者 L2 正则:


L1 正则化是指权值向量 w 中各个元素的绝对值之和,通常表示为||w||1;

L2 正则化是指权值向量 w 中各个元素的平方和然后再求平方根,通常表示为||w||2。


其中,L1 正则可以产生稀疏性,即让模型部分特征的系数为 0。这样做有几个好处:首先可以让模型简单,防止过拟合;还能选择有效特征,提高性能。



如上图:最优解出现在损失函数的等值线和约束函数 L1 相切的地方,即凸点,而菱形的凸点往往出现在坐标轴上(系数 w1 或 w2 为 0),最终产生了稀疏性。


L2 正则通过构造一个所有参数都比较小的模型,防止过拟合。但 L2 正则不具有稀疏性,原因如下图,约束函数 L2 在二维平面下为一个圆,与等值线相切在坐标轴的可能性就小了很多。



2.2 离散化

LR 处理离散特征可以得心应手,但处理连续特征的时候需要进行离散化。通常连续特征会包含:大量的反馈 CTR 特征、表示语义相似的值特征、年龄价格等属性特征。


以年龄为例,可以用业务知识分桶:用小学、初中、高中、大学、工作的平均年龄区间做分桶;也可以通过统计量分桶,使各个分桶内的数据均匀分布。


反馈 CTR 特征的离散化,一般通过统计量分桶,但在桶的边界往往会出现突变的问题,比如两个桶分别为 0.013~0.015、0.015~0.018,在边界左右的值 0.01499 和 0.01501 会带来完全不同的效果。(这里给 GBDT LR 埋下一个伏笔)。


2.3 特征组合

LR 由于是线性模型,不能自动进行非线性变换,需要大量的人工特征组合。以 id 类特征为例,用户 id 往往有上亿维(one-hot),广告 id 往往有上百万维,特征组合会产生维度爆炸。


广告特征里往往有三类维度(a,u,c),分别是广告类特征、用户类特征、上下文类特征。这三类特征内部两两组合、三三组合,外部再两两组合、三三组合就产生了无限多种可能性。所以在 CTR 预估模型的早期,主要工作就是在做人工特征工程。人工特征工程不但极为繁琐,还需要大量的领域知识和试错。


2.4 优缺点

优点:由于 LR 模型简单,训练时便于并行化,在预测时只需要对特征进行线性加权,所以性能比较好,往往适合处理海量 id 类特征,用 id 类特征有一个很重要的好处,就是防止信息损失(相对于范化的 CTR 特征),对于头部资源会有更细致的描述。


缺点:LR 的缺点也很明显,首先对连续特征的处理需要先进行离散化,如上文所说,人工分桶的方式会引入多种问题。另外 LR 需要进行人工特征组合,这就需要开发者有非常丰富的领域经验,才能不走弯路。这样的模型迁移起来比较困难,换一个领域又需要重新进行大量的特征工程。


3. GBDT 少量低纬连续特征 (Yahoo & Bing)

GBDT(Gradient Boosting Decision Tree)[2]是一种典型的基于回归树的 boosting 算法。学习 GBDT,只需要理解两方面:


a. 梯度提升(Gradient Boosting):每次建树是在之前建树损失函数的梯度下降方向上进行优化,因为梯度方向(求导) 是函数变化最陡的方向。不断优化之前的弱分类器,得到更强的分类器。每一棵树学的是之前所有树结论和的残差。


b. 回归树(Regression Tree):注意,这里使用的是回归树而非决策树,通过最小化 log 损失函数找到最靠谱的分支,直到叶子节点上所有值唯一 (残差为 0),或者达到预设条件(树的深度)。若叶子节点上的值不唯一,则以该节点上的平均值作为预测值。





核心问题 1:回归树怎么才能越来越好?


最直观的想法,如果前一轮有分错的样本,那边在后面新的分支只需提高这些分错样本的权重,让没学好的地方多学一学。这种方法在数学上可以用残差来很好的解决,比如上图中,第一轮训练后残差向量为(-1, 1, -1, 1),第二轮训练就是为了消除残差,即这些分错的样本,当残差为 0 或者达到停止条件才停止。


那么哪里体现了Gradient呢?其实回到第一棵树结束时想一想,无论此时的 cost function 是什么,是均方差还是均差,只要它以误差作为衡量标准,残差向量(-1, 1, -1, 1) 都是它的全局最优方向,这就是 Gradient。


核心问题 2:如何将多个弱分类器组合成一个强分类器?


通过加大分类误差率较小的弱分类器的权重,通过多棵权重不同的树(能者多劳)进行打分,最终输出回归预测值。


3.1 特征工程

由于 GBDT 不善于处理大量 id 类离散特征(后文会讲到),但是却善于处理连续的特征,一般的做法是用各种 CTR 反馈特征来做交叉,来范化的表达信息。在这种情况下,信息会大量存在于动态特征中,而少量存在于模型中(对比 LR,信息几乎都存在于模型中)。下图是作者为搜索广告的 GBDT 模型设计的特征,读者可供参考。





3.2 优缺点

优点:我们可以把树的生成过程理解成自动进行多维度的特征组合的过程,从根结点到叶子节点上的整个路径(多个特征值判断),才能最终决定一棵树的预测值。另外,对于连续型特征的处理,GBDT 可以拆分出一个临界阈值,比如大于 0.027 走左子树,小于等于 0.027(或者 default 值)走右子树,这样很好的规避了人工离散化的问题。


缺点:对于海量的 id 类特征,GBDT 由于树的深度和棵树限制(防止过拟合),不能有效的存储;另外海量特征在也会存在性能瓶颈,经笔者测试,当 GBDT 的 one hot 特征大于 10 万维时,就必须做分布式的训练才能保证不爆内存。所以 GBDT 通常配合少量的反馈 CTR 特征来表达,这样虽然具有一定的范化能力,但是同时会有信息损失,对于头部资源不能有效的表达。


4. GBDT LR (FaceBook)

Facebook 在 2014 年发表文章介绍了通过 GBDT 解决 LR 的特征组合问题[3],其主要实现原理是:


训练时,GBDT 建树的过程相当于自动进行的特征组合和离散化,然后从根结点到叶子节点的这条路径就可以看成是不同特征进行的特征组合,用叶子节点可以唯一的表示这条路径,并作为一个离散特征传入 LR 进行二次训练。


预测时,会先走 GBDT 的每棵树,得到某个叶子节点对应的一个离散特征(即一组特征组合),然后把该特征以 one-hot 形式传入 LR 进行线性加权预测。




4.1 改进

Facebook 的方案在实际使用中,发现并不可行,因为广告系统往往存在上亿维的 id 类特征(用户 guid10 亿维,广告 aid 上百万维),而 GBDT 由于树的深度和棵树的限制,无法存储这么多 id 类特征,导致信息的损失。有如下改进方案供读者参考:


方案一:GBDT 训练除 id 类特征以外的所有特征,其他 id 类特征在 LR 阶段再加入。这样的好处很明显,既利用了 GBDT 对连续特征的自动离散化和特征组合,同时 LR 又有效利用了 id 类离散特征,防止信息损失。




方案二:GBDT 分别训练 id 类树和非 id 类树,并把组合特征传入 LR 进行二次训练。对于 id 类树可以有效保留头部资源的信息不受损失;对于非 id 类树,长尾资源可以利用其范化信息(反馈 CTR 等)。但这样做有一个缺点是,介于头部资源和长尾资源中间的一部分资源,其有效信息即包含在范化信息(反馈 CTR) 中,又包含在 id 类特征中,而 GBDT 的非 id 类树只存的下头部的资源信息,所以还是会有部分信息损失。




4.2 优缺点

优点:GBDT 可以自动进行特征组合和离散化,LR 可以有效利用海量 id 类离散特征,保持信息的完整性。


缺点:LR 预测的时候需要等待 GBDT 的输出,一方面 GBDT在线预测慢于单 LR,另一方面 GBDT 目前不支持在线算法,只能以离线方式进行更新。


5. FM DNN (百度凤巢)

随着深度学习的逐渐成熟,越来越多的人希望把深度学习引入 CTR 预估领域,然而由于广告系统包含海量 id 类离散特征,如果全用 one-hot 表示,会产生维度爆炸,DNN 不支持这么多维的特征。目前工业界方案是 FNN[4],即用 FM 做 Embedding,DNN 做训练。


FM(factorization machines)[5]的目标函数如下:



FM DNN 的具体做法是:




对于离散特征,先找到其对应的 category field,并用 FM 做 embedding,把该 category field 下的所有特征分别投影到这个低维空间中。以用户 query 为例,如果用 one-hot 可能有数十亿维,但是如果我们用 FM 编码,就可以把所有的 query 都映射到一个 200 维的向量连续空间里,这就大大缩小了 DNN 模型的输入。


而对于连续特征,由于其特征维度本来就不多,可以和 FM 的输出一同输入到 DNN 模型里进行训练。


6.1 优缺点

优点:FM 可以自动进行特征组合,并能把同一 category field 下的海量离散特征投影到一个低纬的向量空间里,大大减少了 DNN 的输入。而 DNN 不但可以做非线性变换,还可以做特征提取。


缺点:由于 2 阶FM 只支持 2 维的特征交叉(考虑性能的因素常用 2 阶 FM),所以不能像 GBDT 那样做到 10 维的特征组合。另外 DNN 模型出于调参复杂和性能不高的原因,并不适用于中小型业务。所以在工业界使用的不多。


6. MLR (阿里妈妈)

前一阵子阿里巴巴的广告部阿里妈妈公布了其 MLR(mixed logistic regression) 模型 [7],MLR 是 LR 的一个改进, 它采用分而治之的思想,用分片线性的模式来拟合高维空间的非线性分类面。


简单来说,MLR 就是聚类 LR,先对样本空间进行分割,这里有一个超参数 m,用来代表分片的个数,当 m=1 时自动沦为普通的 LR;当 m 越大,拟合能力越强;当然随着 m 增大,其所需要的训练样本数也不断增大,性能损耗也不断增加。阿里的实验表明,当 m=12 时,表现最好。




上图可以看到,对于这种高纬空间的非线性分类面,用 MLR 的效果比 LR 好。


6.1 优缺点

优点:MLR 通过先验知识对样本空间的划分可以有效提升 LR 对非线性的拟合能力,比较适合于电商场景,如 3C 类和服装类不需要分别训练各自不同的 LR 模型,学生人群和上班族也不需要单独训练各自的 LR,在一个 LR 模型中可以搞定。模型的迁移能力比较强。


缺点:MLR 中超参数 m需要人工去调,另外还是有 LR 共性的缺点,如需要人工特征组合和人工离散化分桶等。


7. FTRL_Proximal (Google)

对于 LR 静态特征这种模型,信息主要存储在模型中(相比 GBDT 动态特征,信息既存储在模型中又存储在动态特征里),所以为了让模型更加快速的适应线上数据的变化,google 率先把在线算法 FTRL 引入 CTR 预估模型 [8]。


online 算法其实并不复杂,batch 算法需要遍历所有样本才能进行一轮参数的迭代求解(如随机梯度下降),而 online 算法可以每取一个训练样本,就对参数进行一次更新,大大提升了效率。但这样做也引入了一个问题,模型迭代不是沿着全局的梯度下降,而是沿着某个样本的梯度进行下降,这样即使用 L1 正则也不一定能达到稀疏解。


FTRL 是在传统的在线算法如 FOBOS 和 RDA 的基础上做了优化,它采用和 RDA 一样的 L1 正则,同时和 FOBOS 一样会限制每次更新的距离不能太远。所以它在稀疏性和精确度上要优于 RDA 和 FOBOS[9]。




7.1 优缺点

优点:FTRL 可以在线训练,这样使 LR 存储于模型中的信息可以得到快速的更新。另外 FTRL 也具有不错的稀疏性和精确度,可以减少内存占用防止过拟合。最后 FTRL_Proximal 还支持动态的学习率,可以对不同完整性的特征采用不同的步长进行梯度下降。


缺点:FTRL 同样具有 LR 的缺点,需要人工特征工程和人工离散化分桶。


相关文章:

美团搜索广告排序推荐,从机器学习到深度学习的模型实践

2019腾讯广告算法初赛第一名的模型

贝壳找房的深度学习模型迭代及算法优化

网易如何做新闻推荐:深度学习排序系统及模型




原文地址 https://blog.csdn.net/u013074302/article/details/76419592



阅读过本文的人还看了以下:


分享《深度学习入门:基于Python的理论与实现》高清中文版PDF+源代码


《21个项目玩转深度学习:基于TensorFlow的实践详解》完整版PDF+附书代码


《深度学习之pytorch》pdf+附书源码


李沐大神开源《动手学深度学习》,加州伯克利深度学习(2019春)教材


笔记、代码清晰易懂!李航《统计学习方法》最新资源全套!


《神经网络与深度学习》最新2018版中英PDF+源码


将机器学习模型部署为REST API


FashionAI服装属性标签图像识别Top1-5方案分享


重要开源!CNN-RNN-CTC 实现手写汉字识别


yolo3 检测出图像中的不规则汉字


同样是机器学习算法工程师,你的面试为什么过不了?


前海征信大数据算法:风险概率预测


【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目,让你掌握深度学习图像分类


VGG16迁移学习,实现医学图像识别分类工程项目


特征工程(一)


特征工程(二) :文本数据的展开、过滤和分块


特征工程(三):特征缩放,从词袋到 TF-IDF


特征工程(四): 类别特征


特征工程(五): PCA 降维


特征工程(六): 非线性特征提取和模型堆叠


特征工程(七):图像特征提取和深度学习


如何利用全新的决策树集成级联结构gcForest做特征工程并打分?


Machine Learning Yearning 中文翻译稿


蚂蚁金服2018秋招-算法工程师(共四面)通过


全球AI挑战-场景分类的比赛源码(多模型融合)


斯坦福CS230官方指南:CNN、RNN及使用技巧速查(打印收藏)


python+flask搭建CNN在线识别手写中文网站


中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程


不断更新资源

深度学习、机器学习、数据分析、python

 搜索公众号添加: datayx  

长按图片,识别二维码,点关注


AI项目体验

https://loveai.tech


官方公众号