1 定义 智能助手（Agent Assistant），利用LLM的推理能力，自主对复杂的人类任务进行目标规划、任务拆解、工具调用、过程迭代，在无人类干预的情况下完成任务。 2 咋用智能助手？ “探索”中找到Agent的应用模板，添加到工作区或在此基础自定义。在工作室也可从0编排一个Agent。 选择 ...

背景Ragflow（RAGFlow）是一款基于深度文档理解的开源检索增强生成（Retrieval-Augmented Generation，RAG）引擎。以下是对Ragflow的详细介绍：一、核心特性深度文档理解：Ragflow具备从复杂格式的非结构化数据中精准提取知识的能力，能够在海量数据中定位关 ...

在前一篇博文中尝试了使用阿里云 GPU 实例 ECS 单机部署了 DeekSeek-R1 7b 模型 。这篇博文记录一下在 k8s 集群上用阿里云 GPU 实例部署 DeekSeek R1 大模型的尝试过程，部署的也是 deepseek-r1:7b 模型。 先准备一台阿里云 GPU 实例，选用了共享... ...

春节前DeepSeek R1和Kimi1.5炸翻天了，之前大家推测的O1的实现路径，多数都集中在MCTS推理优化，以及STaR等样本自优化方案等等，结果DeepSeek和Kiim直接出手揭示了reasoning的新路线不一定在SFT和Inference Scaling，也可以在RL。也算是Post ... ...

大家好，我是 V 哥。如何自己部署DeepSeek调用满血版。首先，如果你遇到了使用公共服务器时的延迟或限制，想要本地部署以获得更好的性能和稳定性。你是不是也想自己来部署DeepSeek呢，其实除了自己部署本地DeepSeek，还可以在云上免费部署满血版DeepSeek，接下来，V 哥来介绍这两种方 ...

奖励模型相关内容 这是 让 LLM 来评判 系列文章的第五篇，敬请关注系列文章: 基础概念 选择 LLM 评估模型 设计你自己的评估 prompt 评估你的评估结果 奖励模型相关内容 技巧与提示 什么是奖励模型？ 奖励模型通过学习人工标注的成对 prompt 数据来预测分数，优化目标是对齐人类偏好。 ...

工作室操作 Agent 选择模型时对话报错： "Model schema not found" error only in agents 是因为没打开模型的函数调用功能： 当然，也不是所有模型都支持该功能。 本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 魔都架构师 | ...

0 前言 神经网络是一种人工智能方法，用于教计算机以受人脑启发的方式处理数据。这是一种机器学习过程，称为深度学习，它使用类似于人脑的分层结构中的互连节点或神经元。它可以创建自适应系统，计算机使用该系统来从错误中进行学习并不断改进。因此，人工神经网络可以尝试解决复杂的问题，例如更准确地总结文档或人脸识 ...

0 前言 Dify的一个“应用”指基于LLM构建的实际场景应用。通过创建应用，可将智能 AI 技术应用于特定的需求。它既包含了开发 AI 应用的工程范式，也包含了具体的交付物。 一个应用为开发者交付： 封装友好的 API，可由后端或前端应用直接调用，通过 Token 鉴权 开箱即用、美观且托管的 W ...

模型结构 MLA(Multi-Head Latent Attention) 主要作用是在保证效果的基础上, 利用低秩压缩的原理优化kvCache, 加速推理, 同时节省训练显存. 先回忆下MHA, 在每个head上, 分别经过K, V生成 $ attnweights=(W_Qh_i)^T∗(W_Kh ...

LangChain 核心模块 Agent（构建复杂应用的代理系统） ReAct: Reasoning + Acting ReAct Prompt 由 few-shot task-solving trajectories 组成，包括人工编写的文本推理过程和动作，以及对 动作的环境观察. ReAct P ...

本文分享自华为云社区《一键部署+限免体验！盘点如何在华为云上体验DeepSeek》，作者：华为云社区精选。 还在为DeepSeek深度思考出现“服务器繁忙”而头疼？华为云带你一键在线体验和本地部署DeepSeek模型，200万Token免费领取+云主机极简安装体验，5分钟搞定！更有联网搜索AI应用搭 ...

一、震惊！输入ai.com网址竟然见证历史 今天我在地址栏随手敲了个ai.com，结果网页"唰"地一下——居然跳到了国产AI新贵DeepSeek的官网！这感觉就像在胡同口买煎饼，结果老板递给我一块金砖啊 要知道这个ai.com可是全球科技圈的"传国玉玺"，从1993年注册至今（整整32年历史！ ...

评估你的评估结果 这是 让 LLM 来评判 系列文章的第三篇，敬请关注系列文章: 基础概念 选择 LLM 评估模型 设计你自己的评估 prompt 评估你的评估结果 奖励模型相关内容 技巧与提示 在生产中或大规模使用 LLM 评估模型之前，你需要先评估它在目标任务的表现效果如何，确保它的评分跟期望的 ...

LangChain 核心模块：Data Conneciton - Document Transformers 一旦加载了文档，通常会希望对其进行转换以更好地适应您的应用程序。 最简单的例子是，您可能希望将长文档拆分为较小的块，以适应模型的上下文窗口。LangChain具有许多内置的文档转换器，可以轻 ...

引言 DeepSeek模型很强大，但官方目前存在以下几个痛点 不稳定：官方页面、官方API暂时只能提供有限的服务 成本高：满血版671B个人电脑很少能带得动的 本文介绍nas/云服务器 部署OpenWebUI+DeepSeek API，实现多端互通查询自由，主要有以下几个优点 成本低：不用昂贵的硬件 ...

网上有很多构建本地知识库的文章，我们更应该更深入应用，对比不同的应用效果，才能发挥知识库本身的价值。 ...

刚接触 AI 和 PyTorch，理解 “张量 (Tensor)” 是入门关键。 简单来说，可将 PyTorch 中的张量 (Tensor) 理解为 Java 中的多维数组，但它比普通的 Java 数组强大得多，尤其在 AI 和深度学习领域。 1 张量（Tensor） VS Java 数组/列表 J ...

以下GOOGLE 原文BLOG翻译 0205发表 去年 12 月，我们通过发布 Gemini 2.0 Flash 的实验版本开启了“代理时代”——这是我们的高效工作模型，专为开发者设计，具有低延迟和增强性能。今年早些时候，我们在 Google AI Studio 中更新了 2.0 Flash Thi ...

0 前言 2025年1月10日，DeepSeek发布名为R1的大语言模型，该初创公司声称其在推理任务上可与OpenAI的ChatGPT o1媲美。该应用在创纪录的时间内登顶App Store排行榜，不仅吸引科技行业关注，也引发了全球范围内的广泛讨论。其中一个尤引人注目的声明是：该模型训练成本低于60 ...