nick-algorithmer

摘要： 一、引子 有几个月没有写blog了，主要原因这几个月工作变动，没有腾出时间来。最近在搞rag、agent这些东西，越深入发现遇到的问题就越多，常见的开源dify，ragflow这些总存在这样或者那样的问题，再解决实际问题的时候，总觉得差点意思，尤其在需要结合到数据分析领域的时候，感觉还是比较薄弱。做 阅读全文

摘要： 引子 今天看到一篇博客写道《不是ManusAI用不起，而是AgenticSeek更有性价比，炸裂的项目，100%本地运行的AI秘书，真的丝滑啦！》，Manus是噱头还是真经我今天不讨论，但是这个AgenticSeek在GitHub上16.9k的Star，还是有点东西，本地化运行的Manus替代方案， 阅读全文

摘要： 引子 前文写到RagFlow优化&代码解析(一)，感兴趣的童鞋可以移步（https://blog.csdn.net/zzq1989_/article/details/148055465）。上一篇主要写了检索优化以及整体代码结构和流程。这一篇打算重点写下LLM相关的代码解析。OK，那我们开始吧。 一、 阅读全文

摘要： 引子 前文写到RagFlow的环境搭建&推理测试，感兴趣的童鞋可以移步（https://blog.csdn.net/zzq1989_/article/details/148055465）。前文也写过RagFLow参数配置&测试的文档，详见（https://blog.csdn.net/zzq1989_ 阅读全文

摘要： 引子 前文写到RagFlow的环境搭建&推理测试，感兴趣的童鞋可以移步（https://blog.csdn.net/zzq1989_/article/details/148055465）。RagFlow相对于其他Rag开源项目，比如说MaxKB，Dify项目部署较为复杂。很多读者私信说我写了那么多环 阅读全文

摘要： 引子 去年12月写了一篇DIfy的博客，感兴趣的童鞋可以移步（https://blog.csdn.net/zzq1989_/article/details/144657580）。Dify对企业级的应用不是太友好。最近有个RAG的项目需求，又重新好好调研了下这个问题，发现RagFlow这个项目还是很活 阅读全文

摘要： 引子 很少关注大模型压缩这个领域，碰巧碰上了，那就来吧。为了应对 LLM 不断增长的模型尺寸，通常会采用量化技术，将高精度权重转换为低位表示。这显著减少了内存占用和计算需求，有助于在资源受限的环境中实现更快的推理和部署。然而，量化本质上是一种有损压缩技术，引入了一个基本缺点：它不可避免地改变了 LL 阅读全文

摘要： 引子 2025年4月29日，阿里推出Qwen3， 模型依旧采用宽松的 Apache2.0 协议开源，全球开发者、研究机构和企业均可免费在 HuggingFace、魔搭社区等平台下载模型并商用，也可以通过阿里云百炼调用 Qwen3 的 API 服务，具体来讲，Qwen3 系列模型包含两款 MoE 模型 阅读全文

摘要： 引子 一直在语音方面没有涉及，碰巧看到一则新闻，一个刚刚在 X、GitHub 等平台上走红的开源语音模型。它不仅能生成说话的声音、对话，同时也能合成真实感非常强的笑声、喷嚏声和吸鼻子声等表达情绪的声音。由于效果过于逼真，很好，吸引了我的注意。那就语音试水第一篇。OK，那就让我们开始吧。 一、模型介绍 阅读全文

摘要： 引子 2025年春节期间，阿里推出Qwen2.5-VL，开源了3B、7B、72B模型，，能够处理图像和文本的联合任务，如图像描述生成、视觉问答（VQA）、图文匹配等。。之前写了一篇Qwen2-VL的博客，感兴趣的童鞋请移步（https://blog.csdn.net/zzq1989_/article 阅读全文