摘要：
摘要 2024-04-20 周六 杭州 🌤 小记: 健身减肥，又到了周六称体重的时间了，但是称体重前要吃多点，免得有水分。 2024-04-21 周日 杭州 🐟 小记: 每天早上一根香蕉，我体重相比上周居然没有丝毫变化，看来只能加强体育锻炼了。 课程内容 本章简介 开始做一个 AI 项目 AI 阅读全文
摘要：
摘要 2024-04-14 周日 杭州 阴 小记: 今早本来要去学校的，早起下雨，我的鞋子全部刷了并且伞也丢了(我要买一把顶贵的)，搞的好忧桑，在家看下学习视频吧。 os: 半个月左右的旅行回来上班后，自己的代码能力就好似发生了质的飞跃，可能之前身边蠢货太多就不想写代码，现在跟着大佬就变强了。 20 阅读全文
摘要：
摘要 2024-04-13 周六 杭州 阴雨绵绵 小记: 一会儿要去学校图书馆，赶着中午饭的餐点过去，这个时间打扫下房间，学习下提示词，提示词我已经有自己的一套经验体系了，不过还是要和原作者对齐下，不能自嗨式的学习。 课程内容 1. 引言 小结: 基础大模型存在幻性的问题，通过指令微调的方式我们可以 阅读全文
摘要：
摘要 2024-03-17 周日 杭州 阴 小记: 假期结束了，我也返回杭州了，开始今年的个人规划了，学车，游泳，考雅思。 课程内容 1. 如何准备数据？ 小结: 预训练的数据肯定不是瞎搞出来的，预训练的数据肯定是具备一定意图性的，满足人类预期的；幻性的确是 AI 创新型的一种体现，不过目前的幻性更 阅读全文
摘要：
摘要 2024-03-03 周日 杭州 🌤 小记: 顺应时势，逆流而上 课程内容 1. 什么是 finetuing 训练 2. 训练数据采集 2 3. finetuing 流程 总结 没有通用的大模型的，人间业务需求千奇百怪，随着大模型的发展，以后每个业务部门都会拥有一套自己的 AI 大模型对话系 阅读全文
摘要：
摘要 2024-03-03 周日 杭州 🌤 小记: 认真搞环境，开开信息规划旅游路线。 课程内容 1. 预训练(PreTraining) 心得: 预训练前，大模型本身不会任何知识，通过清洗过的标准化的知识训练以后，基础模型就可以基于已有的知识预测下一个位置可能出现的语法词义，这一步叫做九年义务教育 阅读全文
摘要：
摘要 2024-03-03 周日 杭州 🌤 小记: 钱塘江边的樱花还没有开呀！不过阳光是真的灿烂。 课程内容 1. 什么是 finetuning ？ 心得: 基础大模型就是高中毕业前的我们，还没有分专业，所以大模型拥有的是通用的基础能力。微调就像基于对有天赋的孩子的一场专业化训练，微调完成以后的模 阅读全文
摘要：
摘要 2024-03-01 周五 杭州 阴雨绵绵 过年回来杭州以后，Sora 就放大招了，我对于生成效果也是感觉惊讶，但是没有像其他人那样吹的天花乱坠，因为我自己体验和试验过 Sora 相关的技术，SD 文生图，大语言模型和视频解码都了解那么一点点，底层确实不很清楚，这次我就要好好学习下，这种东西肯 阅读全文
摘要：
摘要 2024-02-14 周三 桑梓 晴 小记: 中文大语言模型训练 课程内容 总结 阅读全文
摘要：
摘要 2024-02-11 周日 桑梓 晴 小记: 明知道 AI 将会颠覆一切，但是目前又是风平浪静。 课程内容 1. 大模型三要素 算法: 模型结构，训练方法； 数据: 数据和模型效果之间的关系，token 分词方法； 算力: 英伟达 GPU ，模型量化； 2. 大模型对话系统架构 3. 提示学习 阅读全文