会员
周边
新闻
博问
AI培训
云市场
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
ZH奶酪(张贺)
人生犹如“迷宫”,每个人都在其中寻找各自的“奶酪”——稳定的工作、身心的健康、和谐的人际关系、甜蜜美满的爱情,或是令人充满想象的财富……
首页
新随笔
管理
2021年3月3日
《比 Bert 体积更小速度更快的 TinyBERT》腾讯技术工程
摘要: 文章地址:https://zhuanlan.zhihu.com/p/94359189 笔记: 模型size=1/7; 推理耗时=1/9; 性能会轻微损失;GLUE下降3个点(BERT-PKD,DistilBERT下降7/8个点); 三个loss:embedding loss(输入,mes),tran
阅读全文
posted @ 2021-03-03 10:33 ZH奶酪
阅读(237)
评论(0)
推荐(0)
编辑