为 Paddle2ONNX 适配自适应 ONNX IR Version 功能

1 简介

最近在浏览 Paddle2ONNX 的 Issues 时，我发现有用户需要让 Paddle2ONNX 支持导出的 ONNX 模型根据 Opset Version 自适应 IR Version 的功能。这个功能对于老的 Runtime 来说还是很重要的，于是我动手添加了这个功能，这里写一篇博客和大家分享下。

2 什么是 ONNX IR Version

ONNX IR 是开放神经网络交换标准中定义的一种数据流图表示形式。一般来说，一个 Opset Version 对应着一个 IR Version 版本。在实践中，选择正确的 IR Version 对于确保模型在不同平台和框架之间的兼容性和正确性至关重要。

3 代码实现

3.1 Opset Version 和 IR Version 的对应关系

从 ONNX 官方文档 Versioning 中我们可以知道，Opset Version 和 IR Version 是强绑定的，具体关系如下表：

ONNX version IR version Opset version ai.onnx
1.2 3 7
1.3 3 8
1.4.1 4 9
1.5.0 5 10
1.6.0 6 11
1.7.0 7 12
1.8.0 7 13
1.8.1 7 13
1.9.0 7 14
1.10.0 8 15
1.10.1 8 15
1.10.2 8 15
1.11.0 8 16
1.12.0 8 17
1.13.0 8 18
1.13.1 8 18
1.14.0 9 19
1.14.1 9 19
1.15.0 9 20
1.16.0 10 21
1.17.0 10 22

3.2 在 Paddle2ONNX 中添加代码

在Paddle2ONNX中，控制 Opset Version 版本的是 OnnxHelper 类。我们考虑从该类中获取到当前 Opset Version 并转换为对应的 IR Version，例如我们可以添加以下代码：

ONNX_NAMESPACE::Version OnnxHelper::GetIRVersion() const {
  int ir_version = 0;
  switch (opset_version) {
    case 7:
    case 8:
      ir_version = 3;
      break;
    case 9:
      ir_version = 4;
      break;
    case 10:
      ir_version = 5;
      break;
    case 11:
      ir_version = 6;
      break;
    case 12:
    case 13:
    case 14:
      ir_version = 7;
      break;
    case 15:
    case 16:
    case 17:
    case 18:
      ir_version = 8;
      break;
    case 19:
    case 20:
      ir_version = 9;
      break;
    case 21:
      ir_version = 10;
      break;
    default:
      Assert(false, "Opset version must be 7-20");
  }
  return static_cast<ONNX_NAMESPACE::Version>(ir_version);
}

由 Opset Version 转换为 IR Version 后，我们需要将 IR Version 指定给 ONNX 模型，例如可以在 exporter.cc 中添加如下代码:

auto ir_version = _helper.GetIRVersion();
auto model = std::make_shared<ONNX_NAMESPACE::ModelProto>();
model->set_ir_version(ir_version);

4 参考资料

posted @ 2024-11-29 16:33  Zheng-Bicheng  阅读(339)  评论(0)    收藏  举报