摘要： MCP MCP网站 Agent工具 Langchain cherry studio Prompt Prompt优化 阅读全文

摘要： excel2latex:在excel中编辑表格，放到latex中。 latex-code:在latex中编辑代码 阅读全文

摘要： 学习网站 这里会记录一些高质量的机器学习的网站。 国外： investopedia：看内容是一个投资网站，但是仍然看到一些技术文章。 medium：国外非常高质量的技术网站（细节讲的很多），有些是收费的。 HuggingFace-blog：HuggingFace的博客社区，中英文都有，介绍也很详细。 阅读全文

摘要： 博客资源 用于复习和巩固基础知识。 一、Transformer系列，早期论文： 经典文章的transformers的blog huggingface的教程 机器学习、深度学习 线性代数 word2vec AUC-ROC 二、论文配色网站 知乎网站 自定义色彩配置:colordot 色彩组配置:top 阅读全文

摘要： 需求： 在home\[username]下已经存在一个linux用户，需要把他的文件移动到另一个磁盘下，并且需要登录时能够进入到新移动的目录下，而不是源目录。 大模型的prompt如下： linux目录home/lwx是用户lwx的默认登录位置，现在我需要将文件移动到home/dell/data/l 阅读全文

摘要： 1.错误 File "/usr/bin/quirks-handler", line 26, in <module> import Quirks.quirkapplier File "/usr/lib/python3/dist-packages/Quirks/quirkapplier.py", lin 阅读全文

摘要： 背景 在SelfLLM项目中发现了很多微调大模型的项目。微调语言大模型的很多了，微调多模态模型的还是较少。这里有几个例子，可以很好的参考一下： 微调qwen Llava 这里做一下总结，使用float16加载模型，再配上Lora，可以在4090*24G（单卡）上微调7B的模型。7B以上的模型，需要多 阅读全文

摘要： 背景 需要对3B模型进行蒸馏，一张4090的卡无法完成实验。完成这个实验的前提是需要两张卡，一张用来加载学生模型，一张用来加载教师模型。 多卡使用 这里的多卡使用并不是像以往的方式，使用dataloaderparallel等方式，这种是数据并行的策略，不适合蒸馏的场景，因为蒸馏是一个模型做推理，一个 阅读全文

摘要： 背景 在使用Llama-3.2-1B时遇到一个关于pad_tokens经验不足的bug。没有指定pad_token的时候分词器会报错，这个使用有以下两种解决策略： 配一个新的token。 tokenizer.add_special_tokens({'pad_token': '[PAD]'}) mod 阅读全文

摘要： 背景 这里记录一下从HuggingFace上下载Llama模型的流程，方便后续使用。 注册账号 目前Llama的模型是需要提交申请才可以使用，因此需要先注册HuggingFace的账号。这里有两点需要注意。 用户名会用来登录：用户名会用作后续下载模型使用，因此需要使用一个自己方便记忆的名称。 用户名 阅读全文

摘要： 工具包 hyperref hyperref 包提供了多个颜色选项来定制文档中超链接的颜色： colorlinks=true：启用彩色链接（而不是边框）。 linkcolor：内部链接的颜色（例如，章节、节标题等之间的链接）。 anchorcolor：锚点的颜色（定义了但未被点击的链接）。 filec 阅读全文

摘要： 背景 在模型训练过程中，需要记录很多数据，例如损失值，评价指标，使用的参数等，这里介绍一下可以使用的工具，方便后续使用。 工具 Pandas + openpyxl：pandas 是一个强大的数据处理库，而 openpyxl 是一个用于读写 Excel 文件的库。你可以使用 pandas 来创建和操作 阅读全文