MengyiFu

摘要： ✅Ollama 安装 ✅极简安装 curl -fsSL https://ollama.com/install.sh | sh ✅Docker 安装 ❗前提是已安装NVIDIA Container Toolkit # 拉取镜像 docker pull ollama/ollama # 启动容器 dock 阅读全文

摘要： 记录使用实验室电脑第一次上传实验代码的过程。 配置SSH密钥 1、本机生成 RSA 密钥对 本机使用ssh-keygen -t rsa命令生成 RSA 密钥，前面步骤都忘记截图啦。根据生成的密钥所在目录，打开id_rsa.pub并复制。这里复制的是公钥。 2、github 配置 SSH KEY 上传 阅读全文

摘要： 茴香豆：企业级知识库问答工具 茴香豆介绍Web版茴香豆创建 Web 版茴香豆账户和密码 茴香豆本地标准版搭建环境搭建安装茴香豆下载茴香豆安装茴香豆所需依赖下载模型文件更改配置文件 知识库创建测试知识助手命令行运行Gradio UI 界面测试 茴香豆高阶应用开启网络搜索远程模型远程向量&重排序模型远程 阅读全文

摘要： InternVL 多模态模型部署微调实践 任务描述多模态大模型常见设计模式QFormerLLaVA QFormer vs. LLaVAInternVL2 的设计模式 微调 InternVL2-2B 模型环境配置训练环境配置推理环境配置 LMDeploy 部署模型LMDeploy基本用法介绍网页应用部 阅读全文

摘要： LMDeploy 量化部署进阶实践 任务描述InternLM2.5 量化与部署环境配置LMDeploy API部署InternLM2.5启动API服务器，部署InternLM2.5模型。以命令行形式连接API服务器以Gradio网页形式连接API服务器 量化部署KV Cache 缓存KV Cache 阅读全文

摘要： Lagent 自定义你的 Agent 智能体 任务描述Agent 动手实践环境配置Lagent 框架中 Agent 的使用代码解析 制作天气查询 Agent获取和风天气服务的API KEYLagent 自定义 WeatherQuery 工具 Multi-Agents 博客写作系统的搭建系统流程设计代 阅读全文

摘要： MindSearch 快速部署 任务描述MindSearch 简介MindSearch 部署环境配置创建 Blank 模板创建 conda 环境隔离并安装依赖 获取硅基流动API KEY启动MindSearch启动后端启动前端 部署到 HF Spaces 任务描述 部署MindSearch到 hug 阅读全文

摘要： XTuner 微调个人小助手认知 任务描述闯关任务环境配置与数据准备修改提供的数据训练启动模型 WebUI 对话 进阶任务模型上传应用部署 任务描述 使用 XTuner 微调 InternLM2-Chat-7B 实现自己的小助手认知，记录复现过程并截图。 将自我认知的模型上传到 HuggingFac 阅读全文

摘要： 探索书生大模型能力边界 任务描述 InternThinker 挑战 LeetCode 考倒 InternThinker 任务描述 InternThinker 挑战 LeetCode：在 LeetCode 使用 InternThinker 刷 5 道算法题：使用 InternThinker 生成答案提 阅读全文

摘要： InternLM + LlamaIndex RAG 实践 任务描述任务要求1：构建浦语API的RAG模型/环境准备不使用 LlamaIndex RAG（仅API）使用 API+LlamaIndex部署 Web 任务要求2：构建本地InternLM2的RAG模型/环境准备不使用 LlamaIndex 阅读全文