AI 大模型
刷新
如何实现本地大模型与MCP集成

博主头像 1.概述 本文将围绕构建兼具本地运行大型语言模型（LLM）与MCP 集成能力的 AI 驱动工具展开，为读者提供从原理到实践的全流程指南。通过深度整合本地大模型的隐私性、可控性优势与 MCP 工具的自动化执行能力，帮助用户以低门槛、高效率的方式，打造个性化 AI 助手，实现任务自动化 —— 无论是文档 ...

基于QwenVL2.5模块实现发票识别

博主头像 提示词 准确的真实发票数据 https://source.xtechcn.com/xrhsc/other/2025/05/21/1925128521245523968.jpg"请提取发票图像中的以下信息：\n" +"- 发票代码\n" +"- 发票号码\n" +"- 开票日期\n" +"- 校验码\ ...

扣子智能体websdk集成多会话模式

博主头像 扣子智能体websdk集成默认PAT是不安全的，官方也推荐使用JWT认证，就涉及到服务端集成OAUTH认证。另一个是默认PAT集成，每个人打开同一个session对话，并不满足实际生产环境需求。配置First, 云端创建一个 OAuth应用 [服务类应用]，如下：具体进一步的操作是服务端集成在服务端 ...

为什么人类程序员仍然比大语言模型（LLMs）强大？

为什么人类程序员仍然比大语言模型（LLMs）强大？ 作者：antirez 这是一个简短的小故事，告诉你为什么人类的编程能力仍然远远领先于当前的AI技术。请注意，我并不是反AI的人，熟悉我的朋友都知道这一点。我日常都会使用大语言模型（LLMs），包括今天也是如此。当我需要快速验证自己的想法、进行代码审 ...

RAG越来越不准？从Dify和ima知识库看元数据与标签如何让大模型更懂你

博主头像 你是否有这样的经历：”知识库文档越来越多，知识库问答却越来越不靠谱，RAG检索到的都是一堆不相关的内容。“ 在这个信息爆炸的时代，我们不缺资料，缺的是找到"对的资料"的能力。 元数据和标签看似普通，却能很大提升RAG能力。 这篇文章聊一聊它们如何辅助RAG系统真正理解用户意图，精准找到需要的信息。 ...

微软开源bitnet b1.58大模型，应用效果测评(问答、知识、数学、逻辑、分析)

博主头像 微软开源的BitNet模型（特别是BitNet b1.58 2B4T）是一种革命性的低精度大语言模型（LLM），1.58位三值权重：权重仅取-1、0、+1三种值，每个参数平均占用约1.58位存储，结合8位整数激活值（W1.58A8配置），大幅压缩模型体积，通过创新的量化技术和架构设计，在性能、能效和... ...

ESP32大模型AI语音助手-软件到硬件

博主头像 去年底开始基于ESP32开发DIY的各种AI语音智能助手层出不穷，AI智能玩偶也比较火热。目前市面上也都有比较成熟的开发板集成了各种模块麦克风、OLED、功放、摄像头等几乎是开箱即用，普通开发者买了折腾一通总能搞点什么出来，当然对于批量推出市场的使用这种开发板成本比较高，通常比较少人这么用。 目前市 ...

Claude4 从UI生成前端工程代码实践

博主头像 背景Claude Sonnet 4是对Claude Sonnet 3.7的重大升级，在更精确地响应你的指令的同时，提供卓越的编码和推理能力。除了这些模型，我们还宣布了以下内容：扩展思考与工具使用（测试版）：两款模型都可以在扩展思考过程中使用工具（如网络搜索），使Claude能够在推理和工具使用之间交 ...

【202406】预训练器的数据指南：衡量数据年龄、领域覆盖、质量和毒性的影响

- 值得注意的内容： - 数据年龄问题，表面上越新越好，训练数据比评估数据旧就会导致性能下降。 - 但是，评估的内容是具有时间标签的，理所应当当然需要更新的模型来理解。 - 时间退化概念，本文之前就有人提出，2022年。 - 领域覆盖：多样性很重要。 - 质量和毒性的影响... ...

SgLang代码细读-3.Cache

博主头像 Sglang代码细读的最后一篇, 主要集中分析了框架中的二级显存池, cache复用相关的ChunkCache/RadixCache, 以及PD分离后KVCache是如何进行传输的 这三部分内容 ...

hexo基于TianliGPT使用免费的Spark-Lite制作AI摘要

博主头像 本人博客 https://www.konoxin.top/ 前提环境 Vercel账号 GitHub仓库 域名 大家也可以根据代码修改自己想要的效果 ✒️申请星火Spark-Lite 打开讯飞星火大模型API-大模型API-大模型接口-科大讯飞 下滑到如下，选择Spark-Lite，点击立即调用 会 ...

RocketMQ客户端是如何感知Broker节点的？

博主头像 本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 魔都架构师 | 全网30W技术追随者 大厂分布式系统/数据中台实战专家 主导交易系统百万级流量调优 & 车联网平台架构 AIGC应用开发先行者 | 区块链落地实践者 以技术驱动创新，我们的征途是改变世 ...

Trae开发工具中配置Qwen3-235B-A22B

博主头像 Cline 是一款用于智能编程的 VSCode 插件，您可以集成阿里云百炼提供的通义千问或 DeepSeek 模型，完成复杂的编程任务。先看最终效果： Qwen3-235B-A22B 是阿里巴巴通义实验室发布的 Qwen3 系列旗舰级开源大模型，采用 混合专家架构（Mixture-of-Expert ...

<1···141516···29>