蚂蚁图团队在DB-GPT v0.6.0版本中改进了GraphRAG框架，引入图社区摘要和混合检索，大幅降低了图索引构建成本，相比微软方案token开销降低50%。 ...
（直到 GPT 出来之前）大多数有竞争力的神经序列转换模型都是采用编码器-解码器结构，transformer 模型也不例外。 ...
背景 AIDocumentLibraryChat 项目已扩展至生成测试代码（Java 代码已通过测试）。该项目可为公开的 Github 项目生成测试代码。只需提供要测试的类的网址，该类就会被加载、分析导入，项目中的依赖类也会被加载。这样，LLM 就有机会在为测试生成模拟时考虑导入的源类。可以提供 t ...
本文紧接前篇文章，详细讲解 transformers 初始化和加载大语言模型过程，包括 AutoConfig/Qwen2Config/AutoModelForCausalLM/Qwen2ForCausalLM/Qwen2PreTrainedModel 和 PreTrainedModel 等核心类详解... ...
英文版提示词I want you to help me study for the PMP exam with personalized practice questions and detailed explanations of each correct answer. Your role is ...
概况：大模型（LLM）的发展带来的技术红利，以及企业业务逐渐向AI转型，LLM 常见的安全漏洞、网络攻击手段变化已经成为企业要迫切关注的问题，本文来探讨一下，如何通过 API 管理策略有效防范LLM的风险。 近年来，随着大型语言模型技术的迅猛发展，各行各业对AI 应用或者业务与AI的结合的热情不断高 ...
让我们直奔主题： 检索增强一代Retrieval-Augmented Generation（RAG）系统正在重塑我们处理人工智能驱动的信息的方式。作为架构师，我们需要了解这些系统的基本原理，才能有效利用它们的潜力。 什么是 RAG？ RAG 系统的核心是通过将 LLM 与外部知识源整合，增强 LLM ...
为加快落实“人工智能+”行动，中国电信集团有限公司充分发挥央企在人工智能领域主力军作用，联合华为技术有限公司共同举办“天翼云息壤杯”高校AI大赛。 ...
0 引言 Redis 作为一种高效的内存型键值数据库，得益于其底层数据结构的精妙设计。对于 List 类型的数据，Redis 从早期的简单链表（linkedlist），到压缩列表（ziplist），再到如今的 quicklist 和 listpack，不断优化以平衡内存利用率和性能。这篇文章将深入剖 ...
作为一名在关系型数据库系统领域拥有二十多年经验的解决方案架构师，我最近开始探索 MariaDB 的新矢量版，看看它能否解决我们面临的一些人工智能数据挑战。快速浏览一下似乎很有说服力，尤其是它如何将人工智能的魔力直接带入常规数据库设置中。不过，想通过一个简单的用例对它进行测试，看看它的实际表现如何。在 ...
服务器端训练yolov5使用tensorboard＋端口转发 实时查看训练成果 本文参照博客园的一位大佬（相当感谢！！！）：本地浏览器查看云服务器训练模型的tensorboard界面 - 拾一贰叁 - 博客园 服务器端操作 运行train.py开始训练 新开一个终端进入到yolov5目录 输入 te ...
0 关键收获 单元化架构提高了微服务的弹性和容错性。 可观察性对于开发和运营单元化架构至关重要。 单元路由器是单元基础架构的关键组件，它需要快速响应单元可用性和健康变化。 要成功采用单元化架构，需要全面和综合的方法来实现可观察性。 单元化架构利用与微服务相同的可观察性支柱，但需要定制以适应这种架构特 ...
0 关键收获 单元化架构通过减少故障的爆炸半径来增加系统弹性 单元化架构是那些任何停机时间都被认为是不可接受的，或者可以显著影响最终用户的系统的一个好选择 单元化架构通过强制使用固定大小的单元作为部署单元，并倾向于扩展而不是扩展的方法，增强了微服务的可伸缩性模型 单元化架构通过将各种组件（可能是微服 ...
LLM与Gamma.ai与Napkin的PPT制作Chagpt/Claude/LLM + Gamma + Napkin 的组合好用到爆炸，制作一个分享的 PPT 就只需要几十分钟。 Gamma.aiGamma.ai平台具有一系列显著的特点，这些特点使得它在PPT制作、内容创作以及数据分析等方面表现出 ...
0 前言 最近的文章中，我们详细介绍了当我们迁移到 Java 21 并将代际 ZGC 作为默认垃圾收集器时，我们的工作负载是如何受益的。虚拟线程是我们在这次迁移中兴奋采用的另一个特性。 对虚拟线程新手，它们被描述为“轻量级线程，大大减少编写、维护和观察高吞吐量并发应用程序的工作量。”威力来自在阻塞操 ...
一、扣子AI智能体简介在扣子平台，用户可以通过零代码或低代码的方式快速搭建基于AI大模型的各类智能体应用（被称为Bot），并将它们部署到其他网站平台上，也可以通过API将扣子平台的智能体与现有系统集成。这些智能体可以是各种类型的聊天机器人，不仅限于简单的对话功能。通过扣子的插件、工作流等机制，它们还 ...
本文详细讲解 transformers 推理大语言模型的初始化过程，包括 Python 包搜索、LazyModule 延迟模块、模块搜索和 Python 包 API 设计美学…… ...
豆包MarsCode是字节跳动旗下的一款AI工具，最近在刷帖子时看到已经可以在vscode中通过插件安装MarsCode工具，接下来我们来看下操作流程以及使用效果。 第一步：首先需要注册下豆包账号 豆包 MarsCode--智能编码，一触即发! 第二步：打开vscode 后，左侧导航栏上点击扩展，搜 ...
0 前言 Agent是一个使用大语言模型决定应用程序控制流的系统。随着这些系统的开发，它们随时间推移变得复杂，使管理和扩展更困难。如你可能会遇到： Agent拥有太多的工具可供使用，对接下来应该调用哪个工具做出糟糕决策 上下文过于复杂，以至于单个Agent无法跟踪 系统中需要多个专业领域（例如规划者 ...
0 前言 在数据分析领域快速发展的今天，通过自然语言与数据交互的能力变得越来越有价值。对话式分析旨在使复杂数据结构对没有专业技能的用户更易于访问。 LangGraph 是个框架，用于构建使用语言模型的状态化、多代理应用程序。Waii 提供文本到 SQL 和文本到图表的功能，使用户能够通过自然语言与数 ...
