深度学习泛化性-自记

泛化性概念

泛化性(generalization)指模型经过训练后，应用到新数据并做出准确预测的能力。一个模型在训练数据上经常被训练得太好即过拟合，以致无法泛化。> https://zhuanlan.zhihu.com/p/361688783

泛化性和鲁棒性的区别与联系

鲁棒性定义：鲁棒性指的是模型在面对输入数据的小幅变动、噪声或异常值时，仍能保持性能稳定，预测结果不受显著影响的能力。简言之，它衡量的是模型对“脏数据”的抵抗力。> https://cloud.baidu.com/article/3336696
泛化性定义：泛化性描述的是模型在未见过的新数据上的表现能力。一个具有良好泛化能力的模型，能够在训练集之外的数据集上保持较高的准确度和可靠性。
泛化性与迁移学习不同，迁移学习指的是将一个训练好的网络用于一个相关但不同的问题。

域泛化

可以分为几类：> https://www.sensetime.com/cn/technology-new-detail/51168986?categoryId=48

1. 基于数据增强的方法：该方法通过对训练数据进行不同的增强操作，如旋转、平移、缩放等，增加训练数据的多样性，以提高模型的泛化能力
2. 基于特征对齐的方法：该方法通过对源域和目标域的特征进行对齐，减小不同域之间的分布差异，以提高模型的泛化能力
3. 基于元学习的方法：该方法通过在训练过程中学习如何快速适应新的领域，以提高模型的泛化能力
4. 基于集成学习的方法：该方法通过组合多个不同的模型或训练过程，提高模型的泛化能力