合集-机器学习
摘要:简介 梯度下降(Gradient Descent) 是机器学习中用于优化问题的一种算法,特别是在训练机器学习模型时寻找损失函数的最小值。 “梯度”指的是损失函数对模型参数的偏导数,它表示损失函数在参数空间中增长最快的方向。 “下降”则意味着我们要朝梯度的相反方向更新参数,以此来减少损失。 本案例中,
阅读全文
摘要:简介 scikit-learn(简称sklearn)是一个广泛使用的Python库,它提供了许多机器学习、数据挖掘和数据分析的工具。 LinearRegression模型是sklearn中实现线性回归算法的一个具体类,为线性回归模型训练及预测提供了便捷的API。 作为模型训练入门案例,本项目选用sk
阅读全文
摘要:简介 梯度下降 梯度下降是一种优化算法,用于最小化一个函数,通常是在机器学习和人工智能中用来最小化损失函数,从而找到模型参数的最佳值。 常见的梯度下降算法主要有三种变体: 批量梯度下降(Batch Gradient Descent, BGD):每次迭代使用整个数据集来计算梯度。 随机梯度下降(Sto
阅读全文
摘要:简介 归一化 归一化(Normalization) 是机器学习中常用的一种数据预处理技术,其主要目的是将数据的数值范围调整到一个特定的区间,通常是\([0, 1]\)或者\([-1, 1]\),或者将数据的均值调整为0,标准差调整为1。 归一化的目的 数据集的不同特征可能采用不同或不相关的数量级进行
阅读全文
摘要:简介 过拟合和欠拟合 欠拟合:模型在训练数据上表现不佳,未能捕捉数据的基本规律。 过拟合:模型在训练数据上表现极佳,但在新数据上泛化能力差。在模型中的具体表现往往是拟合曲线过度陡峭,即模型的斜率 \(\Theta\) 的绝对值太大。 例如,\(M1 = y = 10x + 10\) 与 \(M2 =
阅读全文
摘要:简介 关于多项式回归 多项式回归升维是一种在数据处理和建模中的技术,通过将原始的输入特征进行多项式组合来创建新的特征,从而增加特征的维度,以解决模型的欠拟合问题。 例如,如果原始特征是 x ,可以创建新的特征如 \(x^2\) 、 \(x^3\) 等。这样就将一维的特征空间扩展到了更高维。 升维的主
阅读全文
摘要:简介 SVM 支持向量机(SVM)是一种强大的监督学习算法,主要用于分类和回归分析。它通过在特征空间中寻找一个最优的超平面来实现数据的分类,核心思想是最大化决策边界的宽度,即间隔最大化。SVM特别适用于中小型复杂数据集的分类问题,并且具有良好的泛化能力。 SVM处理图像分类问题的原理是将图像数据映射
阅读全文
摘要:简介 聚类算法 聚类算法是一种无监督学习算法,主要用于将数据集中的对象分组,使得同一组内的对象相似度高,而不同组之间的对象相似度低。聚类算法在许多领域都有应用,包括市场研究、社交网络分析、生物信息学等。 KMeans算法 KMeans(K均值)算法是聚类算法中最著名的一种,它通过迭代过程将数据点划分
阅读全文
摘要:简介 DBSCAN(Density-Based Spatial Clustering of Applications with Noise)是一种基于密度的聚类算法,它能够将具有足够高密度的区域划分为聚类,并将低密度区域的点视为噪声。 DBSCAN的主要特点 1. 无需指定聚类数目:与K-means
阅读全文
摘要:简介 模拟退火算法(Simulated Annealing, SA) 是一种概率型全局优化算法,它受到物理退火过程的启发。在固体材料的退火过程中,材料被加热到一定温度后缓慢冷却,其内部结构逐渐趋于稳定,最终达到能量最低的平衡状态。模拟退火算法正是模仿这一过程,用于寻找数学问题中的全局最优解。 特点
阅读全文

浙公网安备 33010602011771号