CuckooAI

摘要： 一.实践方法论 (一)模型偏差 模型偏差可能会影响模型训练。若模型过于简单，一个有未知参数的函数代θ1 得到一个函数 fθ1(x)，同理可得到另一个函数 fθ2(x)，把所有的函数集合起来得到一个函数的集合。但是该函数的集合太小了，没有包含任何一个函数，可以让损失变低的函数不在模型可以描述的范围内。 阅读全文

摘要： 一.批量归一化 继续上一篇文章的批量归一化，如果是固定的学习率，可能很难得到好的结果，所以我们才需要自适应的学习率、Adam等比较进阶的优化的方法，才能够得到好的结果。如果我们可以给不同的维度，同样的数值范围的话，那我们可能就可以制造比较好的误差表面，让训练变得比较容易一点其实有很多不同的方法，这些 阅读全文

摘要： 一.深度学习 继续上一篇文章的深度学习的定义 把 w 跟 b 更新的方向结合起来，就是一个向量，就是红色的箭头，再计算一次微分，再决定要走什么样的方向，把这个微分的值乘上学习率，再乘上负号，我们就知道红色的箭头要指向那里，就知道如何移动 w 跟 b 的位置，一直移动，期待最后可以找出一组不错的 w, 阅读全文

摘要： 一.动量法 在上一个博客中，我们提到了动量法，现在继续补充 如图所示，红色表示负梯度方向，蓝色虚线表示前一步的方向，蓝色实线表示真实的移动量。一开始没有前一次更新的方向，完全按照梯度给指示往右移动参数。负梯度方向跟前一步移动的方向加起来，得到往右走的方向。一般梯度下降走到一个局部最小值或鞍点时，就被 阅读全文

摘要： 一.深度学习定义和核心 1.1 局部极小值与鞍点 我们在做优化的时候经常会发现，随着参数不断更新，训练的损失不会再下降, 但是我们对这个损失仍然不满意。把深层网络（deep network）、线性模型和浅层网络（shallow network）做比较，可以发现深层网络没有做得更好——深层网络没有发挥 阅读全文

摘要： 一.机器学习的定义和核心 1.机器学习就是让机器具备找一个函数的能力。机器具备找函数的能力以后，它可以做很多事。 2.在机器学习领域里面，除了回归跟分类以外，还有结构化学习（structured learning）。机器不只是要做选择题或输出一个数字，而是产生一个有结构的物体，比如让机器画一张图，写 阅读全文

摘要： 一.部署到服务器上 1.将搭建好的知识问答AI助手(知心智医)搭建到服务器，并且配置了一个域名http://cardiorag.top:8502/ 2.在这过程中有远程登陆，服务器映射问题，好在都解决了，就是gpu算力时时刻刻在烧钱 二.使用ragas框架进行测评 1.遇到的主要问题是，测试数据集， 阅读全文

摘要： 一.首先重大突破是完成了向量数据库的搭建 二.初次的版本由于每次运行都要下载yuan模型，且每次都要运行模型嵌套函数，导致模型运行卡顿，以下是初版 三.后来我们组想到可以先把模型下载到本地，然后优化代码，把两个代码文件合二为一，成功的提了速度， 期间还有懒加载的思考， 还有max_new_token 阅读全文

摘要： 一.初识ComfyUI 1.ComfyUI 是GUI的一种，是基于节点工作的用户界面，主要用于操作图像的生成技术，ComfyUI 的特别之处在于它采用了一种模块化的设计，把图像生成的过程分解成了许多小的步骤，每个步骤都是一个节点。这些节点可以连接起来形成一个工作流程，这样用户就可以根据需要定制自己的 阅读全文

摘要： 一.头脑风暴会 1.进行组队 2.交流idea 二.应用选择和困难 1.本组选择的是AI+心脑血管疾病诊治 2.初始时就遇到了知识库进行向量化的难点，知识库的内容也很多，特别是表格和图片的处理，还在进行优化。 阅读全文