石头木

摘要： 一些初步的想法 AI 代理的核心架构开始趋于稳定，开发人员似乎更关注实践上。 AI 代理将扩展其功能，特别是在视觉探索、网页浏览和移动操作系统集成等领域。 Salesforce 似乎正在大力推动其在 AI 代理研究方面的进步，特别是关注大型动作模型及其开发框架。 比较开发框架本质上是具有挑战性的，因 阅读全文

摘要： 校对是 Gboard 的一项新功能，它使用服务器端大型语言模型(LLM)，只需点击一下就可以提供无缝的句子级和段落级更正，减轻了那些喜欢专注于打字而不是检查已提交单词的快速打字者的痛点。 校对背后的系统由四个部分组成:数据生成、指标设计、模型调优和模型服务。 数据生成过程涉及一个精心设计的错误合成框 阅读全文

摘要： 近年来，人工智能取得了显著的进步，像 GPT-4 这样的大型语言模型上了头条。然而，一个新的趋势正在出现:小型语言模型(small language models, SLMs)。这些模型虽然更紧凑和高效，但提供了重要的功能，并且越来越多地被各行业采用。以下是 21 种正在塑造 AI 未来的小型语言模 阅读全文

摘要： 规模越大并不总是越好:从 llm 到 slm 的转变 当我们想到 AI 时，经常会想到像 GPT-4 或 BERT 这样的大型模型。这些巨人被称为大型语言模型(Large Language Models, llm)，由于其庞大的参数大小和广泛的训练数据，它们具有令人印象深刻的能力。然而，并不总是越大 阅读全文

摘要： https://arxiv.org/abs/2212.08410 思维链提示在基础层面上是如此成功，以至于它产生了一些被称为 x 链现象的东西。谷歌研究院探索了如何使用 llm 为现有数据集生成 CoT 数据本体，然后如何在 CoT 上微调较小的语言模型。 介绍 众所周知，思维链提示提高了大型语言模 阅读全文

摘要： 引入语义标签过滤:利用标签相似度 增强检索 传统的标签搜索缺乏灵活性。如果我们要过滤恰好包含给定标签的样本，可能会出现这样的情况，特别是对于只包含几千个样本的数据库， 可能没有任何(或只有少数)与我们的查询匹配的样本。 两种搜索的不同之处在于搜索结果的稀缺性 传统的标签搜索是如何工作的? 传统系统采 阅读全文

摘要： RAG 幻觉检测方法 未经检查的幻觉在今天的检索增强生成应用中仍然是一个大问题。本研究评估了 4 个公共 RAG 数据集中流行的幻觉检测器。使用 AUROC 和精度/召回率，我们报告了 G-eval、Ragas 和可信语言模型等方法如何能够自动标记不正确的 LLM 响应。 利用各种幻觉检测方法识别 阅读全文

摘要： 在https://www.arxiv.org/abs/2408.04259中，作者介绍了一种高效的多跳问答检索器效率 EfficientRAG。EfficientRAG 迭代地生成新的查询，而不需要在每次迭代中调用 LLM，并过滤掉不相关的信息 方法 EfficientRAG框架概述 作者介绍了Ef 阅读全文

摘要： 项目简介 本项目开源了基于儿科医疗指令微调的问诊模型：pediatrics_llm_qa(GitHub - jiangnanboy/pediatrics_llm_qa)，目前模型的主要功能如下： 智能问诊：问诊后给出诊断结果和建议。 更新 [2024/09/11] 开源了基于Qwen2-1.5B-i 阅读全文

摘要： 介绍 检索增强生成(RAG)已成为语言模型中生成更准确和上下文相关输出的流行方法。 通常，RAG 中的检索步骤依赖于余弦相似度来识别 top-n 相关文档。然而，这种方法的一个缺点是它可以返回高度相似的文档，从而导致冗余和较少的响应多样 性。 这里提出了一种通过迭代调整所选文档向量来增强文档检索多样 阅读全文