摘要: onnx导出BERT示例 目录onnx导出BERT示例BERT模型导出加载模型pt模型推理重新导出config导出onnx模型加载onnx测试参考资料 BERT模型导出 1.基于transformers载入PyTorch模型 2.创建伪输入(dummy inputs),并利用伪输入在模型中前向inf 阅读全文
posted @ 2024-03-13 09:05 贝壳里的星海 阅读(75) 评论(0) 推荐(0) 编辑
摘要: Conv层与BN层融合 目录Conv层与BN层融合简介要求原理BN层参数BN层计算公式Conv和BN计算合并pytorch-BN融合ONNX-BN融合参考资料 简介 当前CNN卷积层的基本组成单元标配:Conv + BN +ReLU 三剑客,可以将BN层的运算融合到Conv层中,把三层减少为一层 减 阅读全文
posted @ 2024-03-13 09:03 贝壳里的星海 阅读(285) 评论(0) 推荐(0) 编辑