摘要：
前面几篇文章介绍了最基本的RAG实现，也了解了RAG的基本原理。最基本的RAG 流程为用户Query问题，RAG应用在向量库查询出Context，然后将Query与 Context喂到LLM，LLM生成满足Query的Response答案。 从这里可以存在三元组： Query、Context 和 R 阅读全文
摘要：
上篇文件介绍了RAG优化与评估的基本概念，以及使用TruLens-Eval在没有Ground-truth的情况下评估RAG应用。本篇文件主要是使用Ragas对RAG应用进行评估； 使用了Gagas生成合成测试数据集，在只有知识库文档并没有Ground-truth（真实答案）的情况下让想评估该知识库文 阅读全文
摘要：
在开发基于LLM的RAG应用并准备将其上线应用时，都会比较关注RAG的性能、质量、可靠性其回答的结果准确性到底如何，甚至可以说RAG的质量可靠性其重要性要大于性能，RAG“调好了”看上去效果不错，有没有什么方法去量化度量RAG应用的质量也至关重要，下图为RAG应用度量质量指标分布图。 何为RAG 由 阅读全文
摘要：
micrograd为一个自动梯度引擎，其实现了反向传播算法，用于学习理解深度学习中的自动求导原理。自动求导无论再传统的机器学习中还是深度学习或是目前非常热门的大语言模型GPT中其都是非常重要基础部分。 反向传播算法可以高效计算出神经网络中损失函数关于训练权重的梯度，使得可通过快速迭代调整权重已得到损 阅读全文
摘要：
Ray一个开源的通用分布式计算框架，支持传统的并行任务并支持AI模型的分布式训练，分布式任务包括有状态与无状态任务，Ray能够快速的构建分布式系统，支持按需申请CPU或GPU；Ray提供了统一的接口提供了基于任务的并行计算与基于行动器的计算，前者通常用于无状态的任务后者用于有状态的任务；Ray为一个 阅读全文
摘要：
大语言模型也只是将用户提供的大规模数据集训练而来，也并非万能的什么都知道，特别是一些小众知识、内部数据或私密的个人数据等，此时ChatGLM3肯定会胡乱回答就是ChatGPT4也不一定能给出满意回答；不少公司、个人都有自己的知识库或日志等此时如有可将这些数据以某种方式挂在大模型上此时在知识库存在的知 阅读全文
摘要：
本篇主要内容为介绍ChatGLM3的安装使用，后续才会涉及到使用LangChain实现本地知识库的内容； ChatGLM为智谱与清华大学开源的一个大语言模型，支持多轮对话、内容创作等，ChatGLM3-6B为ChatGLM3系列中门槛相对较低的一个，本地部署提供兼容OpenAI的API； LangC 阅读全文
摘要：
OpenAI的Karpathy利用周末搞了一个迷你Llama2项目llama2.c用500行C语言实现无任何依赖项的推理程序，此项目在github发布以来衍生出了基于各种语言的迷你Llama推理实现llama2.go、llama2.java、llama2.py等等； 但该项目原本的模型并不支持中文， 阅读全文
摘要：
老照片修复利器GFPGAN，该模型为腾讯2021年开源的一个用于图片人脸复原修复的**GAN模型**；我们都有很多老照片，很多很久以前用**两三百万像素**拍的照片或原文件丢失了，只剩下压缩文件或**QQ空间**里面的老照片，现在一些App也支持老照片修复但往往效果不太理想或都需要收费；这时可以使用 阅读全文
摘要：
## 排线接通 先需要使用树莓派摄像头ffc排线，连接树莓派摄像头与树莓派开发板,其中排线连接的接口被称为CSI（Camera Serial Interface）接口。 树莓派板的CSI接口位于USB和以太网接口旁。我们先将CSI接口的黑色挡板拔开，后将排线蓝色一端正对以太网接口方向插入，之后按下黑 阅读全文
摘要：
### 超声波模块介绍 超声波测距原理很简单： 1、通过记录发送超声波的时间、记录超声波返回的时间，返回时间与发送时间相减得到超声波的持续时间。 2、通过公式：(**超声波持续时间** * **声波速度**) / **2**就可以得出距离； ![image.png](https://img2023. 阅读全文
摘要：
小米AX9000路由支持Docker可玩性大大提升，目前在Docker中跑了魔法上网应用、ownCloud私有云盘、私有ChatGPT服务、Aria2下载器，目前跑了三四月稳定性还算可以，偶尔portainer卡死可通过重启路由器解决，通过USB接口外接硬盘Docker镜像与应用、下载文件等都存储在 阅读全文
摘要：
图片生成与解释 让New Bing画一张图片，生成了四张图片小图看上去还可以，但放大细节还不够好公路可能都不是直的，图片的内容中和海南不太贴合，在海南海边并没有那么高的山，四张勉强一两张能用； 目前New Bing还不支持中文提示词，但是可以先让它生成一些英文的内容，再用中文去提问这时很大概率能生成 阅读全文
摘要：
ChatGPT能说会到，还能写代码修Bug，今天就验证它的IT相关知识能力，容器的使用、代码理解编写的能力等，目前看ChatGPT的水平还是很高，虽然之前通过搜索引擎也能够获取得到，但是搜索精准程度还是差得很多并不是第一时间就能够找到自己想要的答案； ChatGPT在代码理解、编写代码方面视乎不太“ 阅读全文
摘要：
固件更新 需将小米AX9000路由支持安装Docker，但正式版并没有该功能需更新为开发板Rom，直接在小米路由官网下载固件更新即可，当前正式版最新固件为1.0.165，开发板固件为：1.0.140； 固件更新为140开发版本后即可在小米路由管理页面的高级设置项中看到DOCKER的选项； 安装Doc 阅读全文
摘要：
设置USB启动 当前环境使用的树莓派版本为：Raspberry Pi 3B，并且已经在SD卡中烧录系统； 1.使用SD卡烧录Raspberry Pi OS。 可以只使用Raspberry Pi OS Lite，无桌面环境； 2.Raspberry Pi启动进入操作系统中后，更新系统环境： sudo 阅读全文
摘要：
Systemd为Linux中的初始化init系统，用于启动与停止服务进程，设计目标为：尽可能启动更少进程、更多进程并行启动；Systemd使用Linux的CGroup特性用来跟踪与管理进程的生命周期，在服务启动时会并发创建依赖的服务进程，子进程继承父进程CGroup相关服务进程归属与同一个CGrou 阅读全文
摘要：
frp frp为golang开发的高性能内网穿透、反向代理软件，支持tcp、udp、http、https协议等，使用frp进行穿透需要有外网服务器； frp分为服务端frps与客户端frpc，服务端监听frp端口，客户端通过frp端口连接到服务端同时通知服务端开启代理的服务类型与端口，服务端监听客户 阅读全文
摘要：
OpenFeign拦截器 在微服务中比较常见的场景：前端带了JWT令牌请求服务A，在服务A中使用Feign远程调用服务B、服务C等，A、B、C都接入了Spring Security；此时就会存在这样的需求，如服务A调用服务B、C时不带有JWT令牌就会出现服务调用失败，无法通过服务B、C鉴权认证； 此 阅读全文
摘要：
在HomeAssistant中接入HomeKit后可以使用iPad或iPhone的家庭App控制已接入HA的设备，如HA接入了很多小米智能家居设备，HA接入HomeKit后就可以使用苹果自带的家庭App控制已接入的小米设备； HA对应的安装方式有：OS、Container、Core、Supervis 阅读全文