随笔分类 -  课程笔记

【基础岛·第5关】XTuner 微调个人小助手认知
摘要：目录1. 基本概念2. 准备工作2.1 创建cuda12.2-conda的开发机2.2 环境准备2.3 安装xtuner2.4 模型准备3. 快速开始3.1 微调前3.2 指令跟随微调3.2.1 准数据文件3.2.2 准备配置文件3.2.2.1 列出支持的配置文件3.2.2.2 复制一个预设的配置文 阅读全文
posted @ 2024-09-28 00:57 陈佳佳|Tech 阅读(145) 评论(0) 推荐(0)
【基础岛·第4关】InternLM + LlamaIndex RAG 实践
摘要：目录1. 前置知识2. 环境、模型准备2.1 配置开发机环境2.2 安装 Llamaindex2.3 下载 Sentence Transformer 模型2.4 下载 NLTK 相关资源3. LlamaIndex HuggingFaceLLM4. LlamaIndex RAG5. LlamaInde 阅读全文
posted @ 2024-09-28 00:30 陈佳佳|Tech 阅读(167) 评论(0) 推荐(0)
【基础岛·第3关】浦语提示词工程实践
摘要：目录案例描述0、前期准备0.1 环境配置创建虚拟环境0.2 创建项目路径0.3 安装必要软件1、模型部署1.1 获取模型1.2 部署模型为OpenAI server1.3 图形化界面调用2、提示工程（Prompt Enginerring）2.1 什么是prompt2.2 什么是提示词工程2.3 提示 阅读全文
posted @ 2024-09-28 00:29 陈佳佳|Tech 阅读(104) 评论(0) 推荐(0)
【基础岛·第6关】OpenCompass 评测 InternLM-1.8B 实践
摘要：目录1. 概览2. 环境配置2.1 创建开发机和conda环境2.2 安装——面向GPU的环境安装3. 数据准备3.1 评测数据集3.2 InternLM和ceval 相关的配置文件4. 启动测评4.1 使用命令行配置参数法进行评测4.2 使用配置文件修改参数法进行评测 1. 概览 在 OpenCo 阅读全文
posted @ 2024-09-27 20:57 陈佳佳|Tech 阅读(185) 评论(0) 推荐(0)
【基础岛·第2关】8G 显存玩转书生大模型 Demo
摘要：目录创建开发机环境配置Cli Demo 部署 InternLM2-Chat-1.8B 模型 创建开发机 我们选择 10% 的开发机，镜像选择为 Cuda-12.2。在输入开发机名称后，点击创建开发机 环境配置 在 /root/share/pre_envs 中配置好了预置环境 icamp3_demo 阅读全文
posted @ 2024-09-25 16:04 陈佳佳|Tech 阅读(57) 评论(0) 推荐(0)
【基础岛·第1关】书生大模型全链路开源体系
摘要：目录过往一年历程1. 核心技术2.大海捞针实验3、人机解决方式的差别全链路开源生态1 数据2 开源数据处理工具箱3 预训练4 微调xtuner5 评测6 部署7智能体8项目 过往一年历程 7b可以应对中小企业业务，但20b才有涌现现象 1. 核心技术 2.大海捞针实验 超长文本内容中的问答正确度 3 阅读全文
posted @ 2024-09-25 15:48 陈佳佳|Tech 阅读(56) 评论(0) 推荐(0)
【入门岛·第2关】python基础
摘要：目录Python实现wordcountVscode连接InternStudio debug笔记 Python实现wordcount import string def wordcount(text): # 去掉标点符号，并将文本转换为小写 text = text.translate(str.make 阅读全文
posted @ 2024-09-24 21:43 陈佳佳|Tech 阅读(50) 评论(0) 推荐(0)
【入门岛·第1关】linux 基础知识
摘要：目录闯关任务 完成SSH连接与端口映射并运行hello_world.py 闯关任务 完成SSH连接与端口映射并运行hello_world.py 1 在远程主机上建立hello_python.py程序并运行，查看程序运行的端口： import socket import re import gradi 阅读全文
posted @ 2024-09-24 20:55 陈佳佳|Tech 阅读(43) 评论(0) 推荐(0)