DCN模型

1. DCN优点

  使用Cross Network,在每一层都运用了Feature Crossing,高效学习高阶特征。

  网络结构简单且高效

  相比DNN,DCN的Logloss值更低,而且参数的数量少了一个数量级。

2. 网络整体结构

  

  主要分为Embedding和Stacking层,利用Embedding将二值化特征转变为实值的稠密向量,Embedding过程中用到的矩阵参数和网络中的其他参数一起训练,然后将Embedding向量和经过归一化的稠密向量Stack到一起作为网络的输入。

其数学表示为:

          

3. 交叉网络       

  

数学表示为:

      

 

 总参数量为:为输入向量的维度,为交叉网络的层数)

 4. 深度网络

  DNN:

 总参数量为:(输入维度为为神经网络层数,每层神经元个数为

5. 组合方式

    

6. 参考博客

  https://www.jianshu.com/p/77719fc252fa

     https://www.cnblogs.com/cling-cling/p/9922766.html

 

posted @ 2019-12-06 14:50  LuckPsyduck  阅读(2497)  评论(0编辑  收藏  举报