ylxn

摘要： 1 概念 state 状态 action 行动 reward function 奖励 policy 策略 discount rate 衡量当前奖励与未来奖励 2、 Q 与 V 动作的价值 Q：代表智能体选择这个动作A后，一直到最终状态奖励总和的期望。告诉你在这个状态下执行某个具体动作有多好。Q，告诉 阅读全文

摘要： 1 一些概念 Query, 当前元素 Key，序列中的其他元素 Value，求的加权结果和 2 Attention $$\displaystyle{\displaylines{Attention(Q,K,V)=Softmax(\frac{QK}{\sqrt{d_{k}}})V}}$$ dk 是k的维 阅读全文

摘要： 一、流程 求函数的导数 更新x，x_new = x - learning_rate * gradient （如果是求最大值则要变为 x_new = x + learning_rate * gradient） 检查收敛性： |gradient| < tolerance 二、为什么沿着梯度方向就一定能达 阅读全文

摘要： 最近开始学习 pytroch，照着kaggle 简单实现优化了一个 DNN 需要搭建网络、把数据放入dataset，然后定义前向传播 搭建net 手写 l2正则 loss 手写 early_stop import matplotlib.pyplot as plt import torch from 阅读全文

摘要： 一、F检验 假设X1，X2分别服从以下高斯分布： 从总体中抽取样本X1i, X2j，然后计算样本均值和样本方差 F分布的构造定义，一般取较大的方差做分母，较小的方差做分子，那么F > 1可以缩小范围方便查表 原假设和备择假设，再根据假设检验方法（p值或者拒绝域）进行假设检验。 二、特征选择和F检验 阅读全文

摘要： 简介 KD-Tree 用来组织表示K维空间点集合。这是一种带有约束条件的二分查找树，KD树对于邻域搜索十分有用。KD-Tree 在除了叶子结点外，每一维分裂都是在某一个维度进行分裂。 建树算法流程 KD-Node value split，分裂维度编号 left，KD-Node left right， 阅读全文

摘要： 各种聚类算法的比较 简介 利用数据的相似性来进行聚类。首先构建相似度矩阵构建图，然后再划分图，使得同一子图的点相似度高，不同子图的点相似度较低。 相似性度量 度量方式有很多种例如：高斯核函数，欧式距离，余弦相似度 构建拉普拉斯矩阵 构建相似矩阵 W 构建图G，每一点的度是与他相连所有边的权重之和，由 阅读全文

摘要： 简述 DBScan可以识别噪声，但是由于MinPts簇最少数目和Eps邻域半径变量是全局的， DBScan无法发现不同密度的簇。 OPTICS 核心思想是记录每个点的核心距离和可达距离，以一种可视化方式展示不同的簇. OPTICS不需要固定Eps参数，但是对参数MinPts敏感，可达距离有局限性（一 阅读全文

摘要： 一、灵感来源 蚂蚁在选择路径的时候会留下信息素，信息素浓度较高的路径为大多数蚂蚁行走过的路径，则效率相对较高。 二、核心要素 蚂蚁个体，每个蚂蚁代表一个解决方案 信息素，用于记录路径的优劣程度 启发信息，与问题相关的先验知识 信息素更新规则，信息素的挥发，信息素的添加，平衡探索与利用 三、蚁群算法基 阅读全文

摘要： 摘自 Deep Seek 一、核心主题：多元思维模型 芒格认为，传统教育体系的一大缺陷是学科之间彼此割裂，导致人们用单一视角看世界（“手里只有锤子，看什么都像钉子”）。他提倡建立 “多元思维模型” —— 从不同学科（如心理学、经济学、物理学、数学、工程学、生物学等）中汲取核心概念，形成一个思维框架的 阅读全文