论文《Blockwisely Supervised Neural Architecture Search with Knowledge Distillation.》--DNA

该方法的命名为DNA（有趣的名字），该文属于NAS算法，将整个搜索空间比作人的大脑，类型相似的模型归为一类，不同的类具有不同的功能性，同一类中所含的模型具有相似的结构。该文通过在每个类中选择一至二个小模型作为该类的代表，同时训练所有类中的代表模型，并通过中间层的蒸馏对这些代表模型进行修正。