limingqi - 博客园

Tokenization

摘要：分词（Tokenization）是自然语言处理（NLP）中的基础预处理步骤，它架起了原始文本与机器学习模型之间的桥梁。分词过程涉及将文本分解为称为“token”的更小单元，随后这些token被转换为数字ID。这些ID会作为LLM的输入，并通过嵌入层映射为捕捉语义含义的向量表示。分词方法的选择对LL 阅读全文

posted @ 2025-07-19 19:24 limingqi 阅读(91) 评论(0) 推荐(0)

Transformer原理与实现详解：从零入门到实战

摘要：本文将从 Transformer的本质、Transformer的原理和 Transformer架构改进三个方面，搞懂Transformer。一、Transformer的本质 Transformer的核心原理基于自注意力机制，通过编码器-解码器架构实现序列到序列的转换，其核心创新在于并行处理能力和阅读全文

posted @ 2025-07-18 22:46 limingqi 阅读(3633) 评论(0) 推荐(0)

图像数据增强以及python实现

摘要：一、数据增强概述数据增强是一种通过使用已有的训练样本数据来生成更多训练数据的方法，可以应用于解决数据不足的问题。数据增强技术可以用来提高模型的泛化能力，减少过拟合现象。比如在狗猫识别项目中，通过随机旋转、翻转和裁剪等数据增强方法，可以使模型具有对不同角度和尺寸的狗猫图像的识别能力。其主要作用包括：阅读全文

posted @ 2025-07-17 22:53 limingqi 阅读(116) 评论(0) 推荐(0)

文本数据增强以及python实现

摘要： 1. 背景介绍 1.1 数据稀缺：AI时代的"自然资源短缺" 在人工智能和机器学习迅猛发展的今天，我们常听到"数据是新的石油"这一比喻。然而，对于文本分析任务而言，高质量的标注数据更像是一种稀缺的"稀土资源"——获取成本高昂，却对最终产品质量至关重要。想象一下，您正在为一家电商平台构建一个客户评论阅读全文

posted @ 2025-07-16 21:25 limingqi 阅读(113) 评论(0) 推荐(0)

异常检测：K-Means算法

摘要： K-Means算法是一个聚类算法，在样本没有类别的情况下可以通过算法聚出类别，比如某公司中有大量的用户，现在需要我们将用户划分出类别，但是现在我们并不知道怎么划分更好，这个时候就可以通过K-Means算法来帮助我们划分出类别。其原理是通过计算样本到质心的距离来对样本聚出类别，其中的距离我们可以理解为阅读全文

posted @ 2025-07-15 20:59 limingqi 阅读(146) 评论(0) 推荐(0)

异常检测：3西格玛原则

摘要： 3σ原则基于正态分布的数学原理，它假设一组检测数据中只含有随机误差，通过计算得到标准偏差σ，然后按一定概率确定一个区间，对于超过这个区间的误差，就不属于随机误差而是粗大误差，将含有粗大误差的数据进行剔除。在统计学中，如果一个变量服从正态分布，且它的均值是u, 标准差是σ，那么将有：（1）68.2 阅读全文

posted @ 2025-07-15 20:49 limingqi 阅读(1407) 评论(0) 推荐(0)

异常检测：四分位距法（IQR）

摘要：一、IQR介绍 IQR（Interquartile Range）算法是一种用于检测异常值的统计方法，主要基于数据的四分位数。IQR 代表数据集中第 1 四分位数（Q1）和第 3 四分位数（Q3）之间的范围。 1.1 IQR 算法步骤 1）计算四分位数： Q1（下四分位数）：数据中 25% 的值。Q3 阅读全文

posted @ 2025-07-14 20:38 limingqi 阅读(964) 评论(2) 推荐(1)

Skywork-Reward-V2: Scaling Preference Data Curation via Human-AI Synergy 论文概述

摘要：一、研究背景与动机在强化学习从人类反馈（RLHF）中，奖励模型（RMs）至关重要，它决定了模型对人类偏好的捕捉和对齐程度。但当下最先进的开源奖励模型，在多数现有评估基准上表现欠佳，难以有效捕捉人类偏好中细微、复杂的部分。即便运用先进训练技术，性能提升也不明显。经分析，问题主要源于偏好数据集的局限性阅读全文

posted @ 2025-07-14 16:15 limingqi 阅读(73) 评论(0) 推荐(0)

WorldPM: Scaling Human Preference Modeling 偏好模型论文概述

摘要：一、引言与背景研究动机大语言模型（LLM）偏好建模的现状：传统奖励模型（RM）依赖人工标注的 “小数据”（如 HelpSteer2、UltraFeedback 等），存在泛化能力弱、成本高、覆盖场景有限等问题。核心痛点：如何让模型更高效地学习人类偏好，且能适配多样化的真实世界场景？ World 阅读全文

posted @ 2025-07-14 14:40 limingqi 阅读(72) 评论(0) 推荐(0)

分步微调VS合并微调

摘要：两种微调方式（分步微调 vs 合并微调）在模型学习效果、数据影响权重、泛化能力等方面存在显著差异，核心区别如下：一、学习逻辑的本质差异分步微调（a→x→b→y→c→z）模型按顺序递进学习：先完全吸收数据集 a 的模式，再在 a 的基础上学习 b 的模式，最后在 b 的基础上学习 c 的模式。阅读全文

posted @ 2025-07-09 16:43 limingqi 阅读(22) 评论(0) 推荐(0)