随笔分类 -  深度学习 / 大模型

摘要:Smiling & Weeping 也许世界上有五千朵和你一模一样的花 但只有你是我独一无二 截图和代码如上 使用ipdb进行Debug 代码为 阅读全文
posted @ 2024-07-09 12:17 smiling&weeping 阅读(23) 评论(0) 推荐(0)
摘要:Smiling & Weeping 站在这,难免被遗忘 Linux 基础命令 这一部分我会带着大家了解Linux的一些基础操作,还有使用一些工具。让大家能够在遇到问题的时候,可以自行解决,如果大家有遇到什么问题的话,也可以在这里评论,我会及时给大家回答。 因为我们使用开发机时很少使用到权限管理,所以 阅读全文
posted @ 2024-07-09 10:20 smiling&weeping 阅读(56) 评论(0) 推荐(0)
摘要:Smiling & Weeping 我喜欢旅游,是因为我不想直至死亡降临才知道自己一生的忙碌 只是为了喂养一副终将衰老的躯体 而从未珍惜那与我相伴而死的年轻灵魂 总结: RAG原理实践简介 RAG(Retrieval Augmented Generation),即检索增强生成,是一种将检索和生成相结 阅读全文
posted @ 2024-04-14 21:51 smiling&weeping 阅读(50) 评论(0) 推荐(0)
摘要:Smiling & Weeping 真想拥有一个稳定的情绪 笔记: 部署兴趣Demo首先需要部署开发机环境 进入开发机后,在 terminal 中输入环境配置命令 (配置环境时间较长,需耐心等待): studio-conda -o internlm-base -t demo # 与 studio-c 阅读全文
posted @ 2024-03-31 20:47 smiling&weeping 阅读(31) 评论(0) 推荐(0)
摘要:Smiling & Weeping 人生是用来体验的,不是用来后悔的 该篇论文可以总结如下: 数据筛选和预训练: 论文中提到使用了两个分类器进行数据的次级筛选,剔除得分低于阈值的数据,从而获得高质量的预训练数据。 编程数据对于LLM至关重要,因为它支持各种下游应用,如编码辅助、软件开发和构建工具使用 阅读全文
posted @ 2024-03-31 20:43 smiling&weeping 阅读(33) 评论(0) 推荐(0)
摘要:Smiling & Weeping 天气不好的时候,我会小心地把自己心上的裂缝补起来。为什么?... LMDeploy 的量化和部署 1 环境配置 2 服务部署 2.1 模型转换 2.1.1 在线转换 2.1.2 离线转换 2.2 TurboMind 推理+命令行本地对话 2.3 TurboMind 阅读全文
posted @ 2024-01-29 19:25 smiling&weeping 阅读(412) 评论(0) 推荐(0)
摘要:Smiling & Weeping 山海自有归期,风雨自有相逢 大模型评测教程 随着人工智能技术的快速发展, 大规模预训练自然语言模型成为了研究热点和关注焦点。OpenAI于2018年提出了第一代GPT模型,开辟了自然语言模型生成式预训练的路线。沿着这条路线,随后又陆续发布了GPT-2和GPT-3模 阅读全文
posted @ 2024-01-29 19:19 smiling&weeping 阅读(271) 评论(0) 推荐(0)
摘要:Smiling & Weeping 愿我们都做生活的高手 -- 昭阳&乐瑶 阅读全文
posted @ 2024-01-26 20:08 smiling&weeping 阅读(14) 评论(0) 推荐(0)
摘要:Smiling & Weeping 有趣是片难寻的土,灵魂是朵难养的花 一些关于的模型训练的小tips: 1.ctrl+c中断 2.tmux new -s 名称 3.ctrl+b+D退出(没断) 基础作业:构建数据集,使用 XTuner 微调 InternLM-Chat-7B 模型, 让模型学习到它 阅读全文
posted @ 2024-01-14 16:07 smiling&weeping 阅读(50) 评论(0) 推荐(0)
摘要:Smiling & Weeping 你把时间对折,我就在裂缝中喜欢你 使用 LangChain+InternLM的RAG向量检索外挂知识库 > 探索模型知识边界(笔记&&作业) 基础作业: 进阶作业: 选择一个垂直领域,收集该领域的专业资料构建专业知识库,并搭建专业问答助手,并在 OpenXLab  阅读全文
posted @ 2024-01-14 15:43 smiling&weeping 阅读(28) 评论(0) 推荐(0)
摘要:Smiling & Weeping 暂且负些霜雪,拭与春天 基础作业: 使用 InternLM-Chat-7B 模型生成 300 字的小故事(需截图) 熟悉 hugging face 下载功能,使用 huggingface_hub python 包,下载 InternLM-20B 的 config. 阅读全文
posted @ 2024-01-08 12:23 smiling&weeping 阅读(17) 评论(0) 推荐(0)
摘要:Smiling & Weeping 以后隔着三千梨花树,六百湘水,你不必哽咽,我始终记得见你的第一面 2023大模型成为热门关键词 而通用大模型在大模型中适用范围和效率无疑会更高 那么书生·浦语20B开源大模型性能介绍 那么从模型到应用的主要流程大概 书生·浦语全链条开源开放体系 全链条开源开放体系 阅读全文
posted @ 2024-01-06 18:15 smiling&weeping 阅读(36) 评论(0) 推荐(0)