提高模型性能的一些经验

数据增强

  1. 自监督

  2. GAN,VAE

  3. 对抗训练 https://zhuanlan.zhihu.com/p/91269728 (这个非常好!!!)

  4. 二阶段训练

  5. 迁移学习

其他

  1. layerNorm可能有用
posted @ 2021-04-19 21:49  douzujun  阅读(191)  评论(0编辑  收藏  举报