摘要: 数据集 数据集概述 TencentGR_1k/是一个腾讯广告推荐系统的数据集,包含用户行为序列、物品特征、多模态嵌入等多种数据格式。该数据集主要用于推荐系统模型的训练和评估。 目录结构 TencentGR_1k/ ├── seq.jsonl # 用户行为序列数据 ├── item_feat_dict 阅读全文
posted @ 2025-12-02 00:23 Orzjh 阅读(1) 评论(0) 推荐(0)
摘要: AI Infra 综述(二)5 计算优化 COMPUTATION OPTIMIZATIONS核心思想: 现代AI芯片(如GPU)的算力非常强大,但要充分利用这些算力,就需要精巧的优化技术。本节主要介绍两大类方法:算子优化 (Operator Optimization)核心算子优化: 针对模型里最耗费 阅读全文
posted @ 2025-12-02 00:20 Orzjh 阅读(0) 评论(0) 推荐(0)
摘要: AI Infra 综述(一)Efficient Training of Large Language Models on Distributed Infrastructures: A Survey参考资料https://arxiv.org/abs/2407.20018https://github.c 阅读全文
posted @ 2025-12-02 00:18 Orzjh 阅读(0) 评论(0) 推荐(0)
摘要: Stop Overthinking: A Survey on Efficient Reasoning for Large Language Models(综述)[2503.16419v3.pdf][2503.16419_zh_CN.pdf]什么是 Overthinking?CoT, Chain of 阅读全文
posted @ 2025-06-30 15:34 Orzjh 阅读(51) 评论(0) 推荐(0)
摘要: LangChain 系列教程(七):Callbacks介绍Callbacks 是一个事件监听系统。它允许你在 LangChain 应用生命周期的特定节点(事件发生时)挂载自定义的函数,从而实现对内部状态的观察和干预。Callbacks 允许我们在LLM的各个阶段使用各种各样的“钩子”,从而达实现日志 阅读全文
posted @ 2025-06-13 00:59 Orzjh 阅读(168) 评论(0) 推荐(0)
摘要: LangChain 系列教程(六):Agent介绍Chain就像一个预先设定好步骤的“流水线”,严格按照我们的指令执行任务。无论是SequentialChain还是RouterChain,它们的路径都是在代码中定义好的。而Agent可以在面对未知问题时,自己决定需要哪些工具、自己规划步骤、并最终完成 阅读全文
posted @ 2025-06-13 00:58 Orzjh 阅读(219) 评论(0) 推荐(0)
摘要: LangChain 系列教程(五):Chain 介绍 在 LangChain 框架中,Chain (链) 是一个核心接口,用于实现对多个组件的序列化调用和组合。它将不同的功能单元(如模型调用、数据检索、逻辑处理)封装成一个连贯的工作流(Workflow),从而构建功能复杂的应用程序。 常用的核心链有 阅读全文
posted @ 2025-06-10 12:51 Orzjh 阅读(144) 评论(0) 推荐(0)
摘要: LangChain 系列教程(四):Memory介绍Memory模块主要用来存储历史对话信息,让模型记住对话历史。该功能主要会执行两步:输入时,从记忆组件中查询相关历史信息,拼接历史信息和用户的输入到提示词中传给LLM。自动把LLM返回的内容存储到记忆组件,用于下次查询。常用的记忆模式有三种:完整记 阅读全文
posted @ 2025-06-10 12:50 Orzjh 阅读(130) 评论(0) 推荐(0)
摘要: 综合实战(九):RAG问答系统需求序号核心需求功能描述1本地知识库问答与信息检索系统应支持加载用户提供的本地文档(如 PDF、DOCX、TXT 等),建立语义索引,并基于文档内容提供高效、准确的问答与信息检索服务。2实时外部信息的获取与整合系统应具备在线检索能力,能够根据用户请求获取互联网上的相关内 阅读全文
posted @ 2025-06-05 15:21 Orzjh 阅读(337) 评论(0) 推荐(0)
摘要: LangChain 系列教程(八):综合实战介绍该篇文章将给出一个利用LangChain实现RAG的示例程序。这段程序将会体现出LangChain六个核心模块的应用。RAG(Retrieval-Augmented Generation,检索增强生成)是一种结合文档检索与语言生成的技术框架,能够让大模 阅读全文
posted @ 2025-06-05 15:06 Orzjh 阅读(377) 评论(0) 推荐(0)