摘要： 在开发基于LLM的RAG应用并准备将其上线应用时，都会比较关注RAG的性能、质量、可靠性其回答的结果准确性到底如何，甚至可以说RAG的质量可靠性其重要性要大于性能，RAG“调好了”看上去效果不错，有没有什么方法去量化度量RAG应用的质量也至关重要，下图为RAG应用度量质量指标分布图。 何为RAG 由 阅读全文

摘要： micrograd为一个自动梯度引擎，其实现了反向传播算法，用于学习理解深度学习中的自动求导原理。自动求导无论再传统的机器学习中还是深度学习或是目前非常热门的大语言模型GPT中其都是非常重要基础部分。 反向传播算法可以高效计算出神经网络中损失函数关于训练权重的梯度，使得可通过快速迭代调整权重已得到损 阅读全文

摘要： Ray一个开源的通用分布式计算框架，支持传统的并行任务并支持AI模型的分布式训练，分布式任务包括有状态与无状态任务，Ray能够快速的构建分布式系统，支持按需申请CPU或GPU；Ray提供了统一的接口提供了基于任务的并行计算与基于行动器的计算，前者通常用于无状态的任务后者用于有状态的任务；Ray为一个 阅读全文

摘要： 大语言模型也只是将用户提供的大规模数据集训练而来，也并非万能的什么都知道，特别是一些小众知识、内部数据或私密的个人数据等，此时ChatGLM3肯定会胡乱回答就是ChatGPT4也不一定能给出满意回答；不少公司、个人都有自己的知识库或日志等此时如有可将这些数据以某种方式挂在大模型上此时在知识库存在的知 阅读全文

摘要： 本篇主要内容为介绍ChatGLM3的安装使用，后续才会涉及到使用LangChain实现本地知识库的内容； ChatGLM为智谱与清华大学开源的一个大语言模型，支持多轮对话、内容创作等，ChatGLM3-6B为ChatGLM3系列中门槛相对较低的一个，本地部署提供兼容OpenAI的API； LangC 阅读全文

摘要： OpenAI的Karpathy利用周末搞了一个迷你Llama2项目llama2.c用500行C语言实现无任何依赖项的推理程序，此项目在github发布以来衍生出了基于各种语言的迷你Llama推理实现llama2.go、llama2.java、llama2.py等等； 但该项目原本的模型并不支持中文， 阅读全文

摘要： 老照片修复利器GFPGAN，该模型为腾讯2021年开源的一个用于图片人脸复原修复的**GAN模型**；我们都有很多老照片，很多很久以前用**两三百万像素**拍的照片或原文件丢失了，只剩下压缩文件或**QQ空间**里面的老照片，现在一些App也支持老照片修复但往往效果不太理想或都需要收费；这时可以使用 阅读全文

摘要： ## 排线接通 先需要使用树莓派摄像头ffc排线，连接树莓派摄像头与树莓派开发板,其中排线连接的接口被称为CSI（Camera Serial Interface）接口。 树莓派板的CSI接口位于USB和以太网接口旁。我们先将CSI接口的黑色挡板拔开，后将排线蓝色一端正对以太网接口方向插入，之后按下黑 阅读全文

摘要： ### 超声波模块介绍 超声波测距原理很简单： 1、通过记录发送超声波的时间、记录超声波返回的时间，返回时间与发送时间相减得到超声波的持续时间。 2、通过公式：(**超声波持续时间** * **声波速度**) / **2**就可以得出距离； ![image.png](https://img2023. 阅读全文

摘要： 图片生成与解释 让New Bing画一张图片，生成了四张图片小图看上去还可以，但放大细节还不够好公路可能都不是直的，图片的内容中和海南不太贴合，在海南海边并没有那么高的山，四张勉强一两张能用； 目前New Bing还不支持中文提示词，但是可以先让它生成一些英文的内容，再用中文去提问这时很大概率能生成 阅读全文