2021年3月10日
CUDA上的量化深度学习模型的自动化优化
摘要： CUDA上的量化深度学习模型的自动化优化 深度学习已成功应用于各种任务。在诸如自动驾驶汽车推理之类的实时场景中，模型的推理速度至关重要。网络量化是加速深度学习模型的有效方法。在量化模型中，数据和模型参数都用诸如int8和的低精度数据类型表示float16。降低的数据带宽减少了推理时间和存储器/存储需 阅读全文
posted @ 2021-03-10 06:04 吴建明wujianming 阅读(507) 评论(0) 推荐(0)