摘要： 学习网站 这里会记录一些高质量的机器学习的网站。 国外： investopedia：看内容是一个投资网站，但是仍然看到一些技术文章。 medium：国外非常高质量的技术网站（细节讲的很多），有些是收费的。 HuggingFace-blog：HuggingFace的博客社区，中英文都有，介绍也很详细。 阅读全文

摘要： 博客资源 用于复习和巩固基础知识。 一、Transformer系列，早期论文： 经典文章的transformers的blog huggingface的教程 机器学习、深度学习 线性代数 word2vec AUC-ROC 二、论文配色网站 知乎网站 自定义色彩配置:colordot 色彩组配置:top 阅读全文

摘要： 一、背景 使用latex编写文章时，会遇到如下场景，使用多个颜色表达多个人的表达内容。其中代表说话人的颜色更深（饱和度高），而说话人内容的背景颜色要浅（饱和度低），这样可以清晰的将不用人的内容进行区别。例子如下，其中红色的方框表示说话人的颜色，说话的内容是用同RGB+饱和度实现。 二、解决方法 这里 阅读全文

摘要： 一、问题描述 在使用matplotlib画图的时候需要对图例中的图形进行放大缩写的操作，避免图例太小。问题如下： 二、解决方法 由于不同的对象解决方法有差异，这里对散点图和柱形图进行讨论。 2.1 散点图 散点类型的图像可以使用下面的代码进行图形大小的调整。 legend = plt.legend( 阅读全文

摘要： 背景 利用微调的方法对大模型进行微调。目前Lora是高效微调的方法之一。这里记录一下微调的方法和一些博客。 微调方法 Lora的方法是在模型参数外套一个壳，在论文中，作者是对注意力权重Q（K或者V）进行微调。当然也可以对其他网络进行微调例如，MLP（多层感知机）、LayerNorm层微调。 Hugg 阅读全文

摘要： 背景 在安装完openssh之后，还是不能解决登录的问题。报错信息如下： IT IS POSSIBLE THAT SOMEONE IS DOING SOMETHING NASTY! Someone could be eavesdropping on you right now (man-in-the 阅读全文

摘要： 问题 在安装openssh的时候出现了下面的问题。 Creating config file /etc/ssh/sshd_config with new version Creating SSH2 RSA key; this may take some time ...OpenSSL version 阅读全文

摘要： Matplotlib保存文件 参数名 参数意义 bbox_inches 去掉图片内的空白 pad_inches 去掉图片和文件边界的空白 # 这个指令可以保存成没有外边框，没有内边框的图片格式，也可以是pdf文件。 plt.savefig('merged_images.jpg', bbox_inch 阅读全文

摘要： 一、背景 在Python模块倒入的方法中，存在两个问题，一个是循环导入，一个是模块导入的覆盖。在使用过程中遇到了模块导入覆盖的情况，出现了以下的错误： TypeError: 'module' object is not callable 这个错误是由于不规范的导入覆盖+模块引用冲突引起的，在Pyth 阅读全文

摘要： 一、使用 在使用word编写论文时，需要使用参考论文格式，此时可以使用bib生成指定的格式，在放入文中进行使用。latex自带了一种bib参考格式的指令： latex makebst 通过上面的指令可以通过选项进行操作生成一个dbj文件。 再通过对dbj文件的内容进行修改，就可以到一个目标的bst文 阅读全文

摘要： 一、背景 在使用torch的时候，可以通过bool类型对数组进行检索操作。传统的list或者dict都是使用下标和关键字检索。而在torch中可以使用bool类型进行检索，它的的目标主要是以下功能： 替换torch中的某个值 二、使用 torch在bool检索的情况下就是将为检索位置为True的地方 阅读全文