CTR学习笔记- - 风雨中的小七

摘要：

xDeepFM用改良的DCN替代了DeepFM的FM部分来学习组合特征信息，而FiBiNET则是应用SENET加入了特征权重比NFM，AFM更进了一步。在看两个model前建议对DeepFM, Deep&Cross, AFM，NFM都有简单了解，不熟悉的可以看下文章最后其他model的博客链接。以阅读全文

posted @ 2020-06-01 08:46 风雨中的小七阅读(2838) 评论(0) 推荐(0)

CTR学习笔记&代码实现5-深度ctr模型 DeepCrossing -> Deep&Cross

摘要：

之前总结了PNN,NFM,AFM这类两两向量乘积的方式，这一节我们换新的思路来看特征交互。DeepCrossing是最早在CTR模型中使用ResNet的前辈，DCN在ResNet上进一步创新，为高阶特征交互提供了新的方法并支持任意阶数的特征交叉。以下代码针对Dense输入更容易理解模型结构，针对s 阅读全文

posted @ 2020-05-15 09:25 风雨中的小七阅读(2461) 评论(0) 推荐(0)

CTR学习笔记&代码实现4-深度ctr模型 NFM/AFM

摘要：

这一节我们总结FM另外两个远亲NFM，AFM。NFM和AFM都是针对Wide&Deep 中Deep部分的改造。上一章PNN用到了向量内积外积来提取特征交互信息，总共向量乘积就这几种，这不NFM就带着element-wise(hadamard) product来了。AFM则是引入了注意力机制把NFM的阅读全文

posted @ 2020-05-01 21:00 风雨中的小七阅读(2109) 评论(0) 推荐(0)

CTR学习笔记&代码实现3-深度ctr模型 FNN->PNN->DeepFM

摘要：

这一节我们总结FM三兄弟FNN/PNN/DeepFM，由远及近，从最初把FM得到的隐向量和权重作为神经网络输入的FNN，到把向量内/外积从预训练直接迁移到神经网络中的PNN，再到参考wide&Deep框架把人工特征交互替换成FM的DeepFM，我们终于来到了2017年。。。以下代码针对Dense输阅读全文

posted @ 2020-04-21 09:31 风雨中的小七阅读(3041) 评论(0) 推荐(1)

CTR学习笔记&代码实现2-深度ctr模型 MLP->Wide&Deep

摘要：

## 背景这一篇我们从基础的深度ctr模型谈起。我很喜欢Wide&Deep的框架感觉之后很多改进都可以纳入这个框架中。Wide负责样本中出现的频繁项挖掘，Deep负责样本中未出现的特征泛化。而后续的改进要么用不同的IFC让Deep更有效的提取特征交互信息，要么是让Wide更好的记忆样本信息以下代阅读全文

posted @ 2020-04-08 09:47 风雨中的小七阅读(2439) 评论(0) 推荐(0)

CTR学习笔记&代码实现1-深度学习的前奏LR->FFM

摘要：

CTR学习笔记系列的第一篇，总结在深度模型称王之前经典LR，FM, FFM模型，这些经典模型后续也作为组件用于各个深度模型。模型分别用自定义Keras Layer和estimator来实现，哈哈一个是旧爱一个是新欢。特征工程依赖feature_column实现，这里做的比较简单在后面的深度模型再好好阅读全文

posted @ 2020-03-16 09:13 风雨中的小七阅读(3599) 评论(1) 推荐(0)

风雨中的小七

合集-CTR学习笔记