什么是超参数
基于深度学习的模型参数主要分为参数和超参数,参数通常在数据中自动获取,不需要人为设置,而超参数是模型外部的配置变量,通常需要人为设置。超参数主要包括学习率(learning rate)、批量尺寸大小(batch size),迭代次数(epoch)、隐藏层数目层数、激活函数的选择、部分损失函数的可调系数以及正则化系数等。超参数调优是基于深度学习进行目标检测的关键一步,在小目标检测中更是需要借助参数调优组合选取出最优的超参数,进而发挥最大性能更好的检测小目标。
常见超参数调优对比
![]()
注意点
相对于需要一定的知识和先前经验的手动调整方法,自动超参数调优方法可以更有效的为模型挑选出相对较优的超参数组合,但现有大多数自动超参数调优都未能摆脱固定的网络模型结构和数据集,自适应调节存在着在某种小目标检测中获得的最优超参数组合可能对另一种小目标检测模型并不适用,仍需要具体模型具体调优的问题。
posted @
2021-02-25 12:10
狂战士99999
阅读(
927)
评论()
收藏
举报