摘要: 查看代码汇编结果:https://godbolt.org/ 查看编译器替换结果:https://cppinsights.io/ google代码格式:https://zh-google-styleguide.readthedocs.io/en/latest/contents/ 阅读全文
posted @ 2022-01-07 17:16 鸭子船长 阅读(5) 评论(0) 推荐(0) 编辑
摘要: 本节介绍预测处理的流程。预测处理流程主要分为3部分,包括准备输入数据、执行、获取输出数据。 一、放入输入数据 简单的使用方法如下所示: vector<string> input_names = predictor->GetInputNames(); unique_ptr<Tensor> input_ 阅读全文
posted @ 2021-12-24 17:57 鸭子船长 阅读(18) 评论(0) 推荐(0) 编辑
摘要: 本节介绍Operator定义注册机制 简介 所有的Op都继承自OperatorBase(operator.h),且所有的Op都是无状态的,每个Op包含的 成员变量只有四个:string& type、const VariableNameMap& inputs、const VariableNameMap 阅读全文
posted @ 2021-12-20 21:09 鸭子船长 阅读(12) 评论(0) 推荐(0) 编辑
摘要: 1、编译 在网站https://github.com/jemalloc/jemalloc/releases下载最新版的jemalloc源码包。 解压 wget https://github.com/jemalloc/jemalloc/releases/download/5.2.0/jemalloc- 阅读全文
posted @ 2021-12-15 10:42 鸭子船长 阅读(35) 评论(0) 推荐(0) 编辑
摘要: 这一部分开始介绍创建Predictor过程, 以下代码均位于paddle/fluid/inference/api目录下 1、对外暴露的接口均在paddle_inference_api.h中 namespace paddle_inferusing Config = paddle::AnalysisCo 阅读全文
posted @ 2021-12-14 16:48 鸭子船长 阅读(41) 评论(0) 推荐(0) 编辑
摘要: 本文针对代码版本为Paddle/2.2,主要针对预测流程的梳理。 1、paddle inference的使用较为简单,其基本代码如下: // 创建predictor std::shared_ptr<Predictor> InitPredictor() { Config config; if (FLA 阅读全文
posted @ 2021-12-14 15:00 鸭子船长 阅读(46) 评论(0) 推荐(0) 编辑
摘要: 1、brpc服务自带界面,可以通过浏览器直接访问ip:port/vars 2、也可以通过curl工具直接获取数据,例如: $ curl brpc.baidu.com:8765/vars/*qps* bthread_creation_qps : 95 rpc_server_8765_example_e 阅读全文
posted @ 2021-12-06 16:03 鸭子船长 阅读(42) 评论(0) 推荐(0) 编辑
摘要: k8s privileged 起的容器里 mount|grep sys sysfs on /sys type sysfs (ro,nosuid,nodev,noexec,relatime,seclabel) /sys是ro只读的 docker privileged 起的容器里 mount|grep 阅读全文
posted @ 2021-11-26 19:46 鸭子船长 阅读(131) 评论(0) 推荐(0) 编辑
摘要: 1、原因: GCC 5在编译时会将std::string类型按c++11下std::__cxx11::basic_string<char> 来处理,这时如果你调用的库在编译时未启用c++11特性则其中的std::string实际上是std::basic_string<char> ,如果将c++11下 阅读全文
posted @ 2021-11-23 16:27 鸭子船长 阅读(105) 评论(0) 推荐(0) 编辑
摘要: 最近遇到个问题,在链接OpenVINO的时候,需要将libinference_engine.so与libinference_engine_legacy.so都链接进去,但如果在CMakeLists里设置add_definitions(-D _GLIBCXX_USE_CXX11_ABI=0),就无法正 阅读全文
posted @ 2021-11-22 20:56 鸭子船长 阅读(43) 评论(0) 推荐(0) 编辑