aopstudio

摘要： 引言：大模型部署工具的百花齐放 让一个大模型跑起来，远不止 pip install 和 model.generate() 那么简单。从底层计算框架到上层服务接口，整个技术栈错综复杂，包含各种各样百花齐放的工具。笔者在刚开始学习这方面的知识时被各种五花八门的工具搞的眼花缭乱，为此，特意进行了整理并写成 阅读全文