论文《MorphNet: Fast & Simple Resource-Constrained Structure Learning of Deep Networks》
该论文在进行神经网络的结构搜索时只考虑优化每层的输出通道数。在每次更新完网络权重后计算网络的宽度编码(长度为L),第i位表示第i层保留的通道数。为了不让网络过小,将寻找满足模型约束的最大w,w用于控制模型通道的缩放。具体算法如下:

模型的结构图:

该论文在进行神经网络的结构搜索时只考虑优化每层的输出通道数。在每次更新完网络权重后计算网络的宽度编码(长度为L),第i位表示第i层保留的通道数。为了不让网络过小,将寻找满足模型约束的最大w,w用于控制模型通道的缩放。具体算法如下:

模型的结构图:
