摘要:
近年来,预训练语言模型在自然语言处理上表现出色,但其庞大的参数量阻碍了它在真实世界的硬件设备上的部署。近日,机器学习顶会ICLR 2022接收论文结果已经正式公布,至少有9项工作展示了神经网络量化方向的相关进展。本文将介绍首个用于自然语言任务的全二值量化BERT模型——BiBERT,具有高达56.3
阅读全文
posted @ 2022-03-03 20:59
百度大脑
阅读(20)
推荐(0)
摘要:
2020年,基于自注意力机制的Vision Transformer将用于NLP领域的Transformer模型成功地应用到了CV领域的图像分类上,并在ImageNet数据集上得到88.55%的精度。 然而想要真正地将Transformer模型应用到整个CV领域,有两点问题需要解决。1、超高分辨率的图
阅读全文
posted @ 2022-03-03 20:51
百度大脑
阅读(167)
推荐(0)
摘要:
我国电力行业发展迅速,电表作为测电设备经历了普通电表、预付费电表和智能电表三个阶段的发展。在产业场景中,表的种类多达十几种,过去依赖人工抄表,成本很高。如果能够采集到大量电表图片,借助人工智能技术批量检测和识别,将会大幅提升效率。本次飞桨产业实践范例库开源电表读数识别场景应用,提供了从数据准备、技术
阅读全文
posted @ 2022-03-03 20:43
百度大脑
阅读(80)
推荐(0)