| | | |

2025年7月10日

ELMO模型

摘要： ![image](https://img2024.cnblogs.com/blog/3670688/202507/3670688-20250710224707342-1413919807.png) 阅读全文

posted @ 2025-07-10 22:47 K814a 阅读(7) 评论(0) 推荐(0)

2025年7月7日

前置知识

摘要： ![image](https://img2024.cnblogs.com/blog/3670688/202507/3670688-20250707232329860-423246248.png) 阅读全文

posted @ 2025-07-07 23:23 K814a 阅读(4) 评论(0) 推荐(0)

2025年7月6日

前置知识

摘要： ![image](https://img2024.cnblogs.com/blog/3670688/202507/3670688-20250706221612059-1225389802.png) 阅读全文

posted @ 2025-07-06 22:16 K814a 阅读(7) 评论(0) 推荐(0)

2025年7月3日

模型转换常见问题

摘要： ![image](https://img2024.cnblogs.com/blog/3670688/202507/3670688-20250703223202969-1319855153.png) 阅读全文

posted @ 2025-07-03 22:32 K814a 阅读(5) 评论(0) 推荐(0)

【案例】TensorRT

摘要： ![image](https://img2024.cnblogs.com/blog/3670688/202507/3670688-20250703223034938-1548327496.png) 阅读全文

posted @ 2025-07-03 22:30 K814a 阅读(5) 评论(0) 推荐(0)

【案例】onnx runtime

摘要： ![image](https://img2024.cnblogs.com/blog/3670688/202507/3670688-20250703223002883-108181959.png) 阅读全文

posted @ 2025-07-03 22:30 K814a 阅读(4) 评论(0) 推荐(0)

【案例】转换onnx

摘要： ResNet 先调用API resnet18传入的参数分别是：模型配置文件（.py），权重文件（.pt），设备标识（cuda）调用eval函数，使其处于evaluation模式（要把dropout去掉，固定参数）然后，随机（rand）生成一个torch的tensor（张量x），shape与模型输阅读全文

posted @ 2025-07-03 22:29 K814a 阅读(18) 评论(0) 推荐(0)

模型部署基本概念

摘要：模型部署：训练好的模型在特定软硬件平台下推理。针对硬件（cpu、gpu、dsp）优化和加速的推理代码有了模型前向计算过程，加上模型的前处理与后处理，就可以封装为一个推理的软件开发包（sdk），可以调用它。然后基于此开发app pytorch模型部署流程：训练框架（pytorch） -【转化】阅读全文

posted @ 2025-07-03 22:27 K814a 阅读(17) 评论(0) 推荐(0)