随笔分类 - 深度学习

自己学习深度学习的一些体悟和结果

摘要：Main reference: Official resources of Jetson Nano blog Jetson-Openbox Step 1: Open box and install Pytorch for deep learning Changing the source of Je 阅读全文

posted @ 2022-06-20 22:26 Sanhao99 阅读(82) 评论(0) 推荐(1)

从Softmax到知识蒸馏--读论文《Distilling the Knowledge in a Neural Network》

摘要：#Softmax 在神经网络训练中，最后一层往往是全连接层接Softmax输出，而最近读的论文《Distilling the Knowledge in a Neural Network》也将Softmax层加入了温度系数实现蒸馏。这里简单介绍Softmax层的意义，并且写下我对知识蒸馏这篇经典论文的阅读全文

posted @ 2021-03-11 18:01 Sanhao99 阅读(624) 评论(0) 推荐(1)

随笔分类 - 深度学习

公告