2024年1月29日
Imdeploy笔记
摘要： Smiling & Weeping 天气不好的时候，我会小心地把自己心上的裂缝补起来。为什么？... LMDeploy 的量化和部署 1 环境配置 2 服务部署 2.1 模型转换 2.1.1 在线转换 2.1.2 离线转换 2.2 TurboMind 推理+命令行本地对话 2.3 TurboMind 阅读全文
posted @ 2024-01-29 19:25 smiling&weeping 阅读(408) 评论(0) 推荐(0)
Opencompass笔记整理
摘要： Smiling & Weeping 山海自有归期，风雨自有相逢 大模型评测教程 随着人工智能技术的快速发展， 大规模预训练自然语言模型成为了研究热点和关注焦点。OpenAI于2018年提出了第一代GPT模型，开辟了自然语言模型生成式预训练的路线。沿着这条路线，随后又陆续发布了GPT-2和GPT-3模 阅读全文
posted @ 2024-01-29 19:19 smiling&weeping 阅读(271) 评论(0) 推荐(0)