正文内容加载中...
posted @ 2015-05-25 22:55 仙守 阅读(1449) 评论(0) 编辑
摘要: 很多时候,我们是基于python进行模型的设计和运行,可是基于python本身的速度问题,使得原生态python代码无法满足生产需求,不过我们可以借助其他编程语言来缓解python开发的性能瓶颈。这里简单介绍个例子,以此完成如何先基于cuda编写瓶颈函数,然后在将接口通过cpp进行封装,最后以库的形阅读全文
posted @ 2019-04-19 13:20 仙守 阅读(22) 评论(0) 编辑
摘要: 首先借助 "qqwweee/keras yolo3" 中的convert.py和 "tensorrt例子yolov3_onnx" ,并重新编写了代码,实现将darknet格式的yolov3的yolov3.cfg和yolov3.weights转换成keras(tensorflow)的h5格式 1 将d阅读全文
posted @ 2019-03-21 15:28 仙守 阅读(337) 评论(8) 编辑
摘要: 本文是基于TensorRT 5.0.2基础上,关于其内部的yolov3_onnx例子的分析和介绍。 本例子展示一个完整的ONNX的pipline,在tensorrt 5.0的 "ONNX TensorRT" 基础上,基于Yolov3 608网络进行inference,包含预处理和后处理。 首先,从作阅读全文
posted @ 2019-03-19 14:59 仙守 阅读(349) 评论(1) 编辑
摘要: 本文是基于TensorRT 5.0.2基础上,关于其内部的uff_custom_plugin例子的分析和介绍。 本例子展示如何使用cpp基于tensorrt python绑定和UFF解析器进行编写plugin。该例子实现一个clip层(以CUDA kernel实现),然后封装成一个tensorrt 阅读全文
posted @ 2019-03-15 17:57 仙守 阅读(152) 评论(0) 编辑
摘要: 本文是基于TensorRT 5.0.2基础上,关于其内部的fc_plugin_caffe_mnist例子的分析和介绍。 本例子相较于前面例子的不同在于,其还包含cpp代码,且此时依赖项还挺多。该例子展示如何使用基于cpp写的plugin,用tensorrt python 绑定接口和caffe解析器一阅读全文
posted @ 2019-03-14 19:25 仙守 阅读(147) 评论(0) 编辑
摘要: 本文是基于TensorRT 5.0.2基础上,关于其内部的network_api_pytorch_mnist例子的分析和介绍。 本例子直接基于pytorch进行训练,然后直接导出权重值为字典,此时并未dump该权重;接着基于tensorrt的network进行手动设计网络结构并填充权重。本文核心在于阅读全文
posted @ 2019-03-14 12:19 仙守 阅读(83) 评论(0) 编辑
摘要: 本文是基于TensorRT 5.0.2基础上,关于其内部的end_to_end_tensorflow_mnist例子的分析和介绍。 1 引言 假设当前路径为: 其对应当前例子文件目录树为: 2 基于tensorflow生成模型 其中只有2个文件: model:该文件包含简单的训练模型代码 sampl阅读全文
posted @ 2019-03-13 20:07 仙守 阅读(81) 评论(0) 编辑
摘要: 本文是基于TensorRT 5.0.2基础上,关于其内部的introductory_parser_samples例子的分析和介绍。 1 引言 假设当前路径为: 其对应当前例子文件目录树为: 该例子展示如何使用TensorRT和包含的对应解析器(UFF,Caffe,ONNX解析器),基于在不同框架下训阅读全文
posted @ 2019-03-13 17:13 仙守 阅读(125) 评论(0) 编辑
摘要: 在tensorflow1.8之后的版本中,tensorflow.contrib部分都有tensorrt的组件,该组件存在的意义在于,你可以读取pb文件,并调用tensorrt的方法进行subgraph压缩,其他不能压缩的subgraph依然被tensorflow所处理。这样的操作方式就不同于你生成一阅读全文
posted @ 2019-02-26 18:31 仙守 阅读(98) 评论(0) 编辑
摘要: 本文来自《BEGAN: Boundary Equilibrium Generative Adversarial Networks》,时间线为2017年3月。是google的工作。 作者提出一个新的均衡执行方法,该方法与从Wasserstein距离导出的loss相结合,用于训练基于自动编码器的GAN。阅读全文
posted @ 2019-02-22 14:12 仙守 阅读(45) 评论(0) 编辑