随笔分类 -  TensorRT

摘要:性能飞跃!TensorRT-YOLO 6.0 全面升级解析与实战指南立即体验:GitHub仓库 | 使用示例 | 快速开始 一、核心升级亮点速览 🚀 多Context共享引擎:高效推理,最大化硬件资源利用率 TensorRT-YOLO 6.0 引入了创新的多Context共享引擎机制,允许多个线程共享同一个Engine进行推理,最大化硬件资源利用率,同时显著降低内 阅读全文
posted @ 2025-01-28 10:03 laugh12321 阅读(2517) 评论(1) 推荐(4)
摘要:TensorRT-YOLO:灵活易用的 YOLO 部署工具🚀TensorRT-YOLO 是一款专为 NVIDIA 设备设计的易用灵活、极致高效的YOLO系列推理部署工具。项目不仅集成了 TensorRT 插件以增强后处理效果,还使用了 CUDA 核函数以及 CUDA 图来加速推理。TensorRT-YOLO 提供了 C++ 和 Python 推理的支持, 阅读全文
posted @ 2024-12-27 16:35 laugh12321 阅读(3188) 评论(1) 推荐(3)
摘要:在大多数项目交付场景中,经常需要对部署模型进行加密。模型加密一方面可以防止泄密,一方面可以便于模型跟踪管理,防止混淆。 由于博主使用的部署模型多为TensorRT格式,这里以TensorRT模型为例,讲解如何对模型进行加密、解密以及推理加密模型。 代码仓库:https://github.com/la 阅读全文
posted @ 2023-08-09 17:38 laugh12321 阅读(3972) 评论(0) 推荐(1)