摘要: 动态规划 斐波那契数 LeetCode.509. 斐波那契数 F(0) = 0, F(1) = 1 F(n) = F(n - 1) + F(n - 2), 其中 n > 1 给你 n, 请计算 F(n). 版本1 class Solution: def fib(self, n: int) -> in 阅读全文
posted @ 2021-04-02 14:31 肥嘟嘟左衛門 阅读(119) 评论(0) 推荐(0)
摘要: 回溯法 全排列 LeetCode.46. 全排列 给定一个没有重复数字的序列, 返回其所有可能的全排列. 示例: 输入: [1,2,3] 输出: [ [1,2,3], [1,3,2], [2,1,3], [2,3,1], [3,1,2], [3,2,1] ] from typing import L 阅读全文
posted @ 2021-04-02 14:30 肥嘟嘟左衛門 阅读(111) 评论(0) 推荐(0)
摘要: 二叉树的遍历 前序遍历 LeetCode.144. 二叉树的前序遍历 二叉树的前序/中序/后序遍历的非递归描述一般适合用深度优先搜索 (DFS, depth-first search), 并使用栈的数据结构. 版本1 递归 from typing import List class Node: de 阅读全文
posted @ 2021-04-02 14:28 肥嘟嘟左衛門 阅读(134) 评论(0) 推荐(0)
摘要: 支持向量机 支持向量机 (support vector machines, SVM) 是一种二类分类模型, 它的基本模型是定义在特征空间上的间隔最大的线性分类器, 间隔最大使它有别于感知机, 支持向量机还包括核技巧, 这使它成为实质上的非线性分类器. 它的目标是寻找一个超平面对样本进行分割, 分割的 阅读全文
posted @ 2020-12-07 22:39 肥嘟嘟左衛門 阅读(266) 评论(0) 推荐(0)
摘要: 感知机 感知机 (perceptron) 是二类分类的线性分类模型, 其输入为实例的特征向量, 输出为实例的类别, 取 \(+1\) 和 \(-1\) 二值. 感知机对应于输入空间 (特征空间) 中将实例划分为正负两类的分离超平面, 属于判别模型. 感知机学习旨在求出将训练数据进行线性划分的分离超平 阅读全文
posted @ 2020-12-07 21:56 肥嘟嘟左衛門 阅读(443) 评论(0) 推荐(0)
摘要: XGBoost 算法 XGBoost 损失函数 假设输入训练数据集 \(T = \{ (\mathbf{x}_1, y_1), (\mathbf{x}_2, y_2), \cdots, (\mathbf{x}_N, y_N) \}\), \(\mathbf{x}_i \in \mathcal{X} 阅读全文
posted @ 2020-12-07 21:46 肥嘟嘟左衛門 阅读(335) 评论(0) 推荐(0)
摘要: 随机森林 之前所述的集成学习方法中的 boosting 方法迭代地学习一系列弱学习算法, 并且当前弱学习算法依赖于上一轮学习器的学习过程, 然后组合这些弱学习器, 构成一个强学习器, boosting 方法是串行的. 另一种集成学习方法是 bagging 方法, bagging 是并行集成学习方法最 阅读全文
posted @ 2020-12-07 21:45 肥嘟嘟左衛門 阅读(416) 评论(0) 推荐(0)
摘要: 梯度提升树 提升树模型 在叙述梯度提升决策树模型 (GBDT, Gradient Boosting Decision Tree) 之前, 先叙述提升树模型 (BDT, Boosting Decision Tree). 在之前已经提到, 给定一个训练数据集 \(T = \{ (\mathbf{x}_1 阅读全文
posted @ 2020-12-07 21:42 肥嘟嘟左衛門 阅读(244) 评论(0) 推荐(0)
摘要: Adaboost 算法 提升 (boosting) 方法是一种常用的集成学习方法, 其中常见的集成学习框架包括 Bagging, Boosting 和 Stacking. 它通过改变训练样本的权重, 学习多个分类器, 并将这些分类器进行线性组合, 提高分类的性能. 历史上, Kearns 和 Val 阅读全文
posted @ 2020-12-07 21:40 肥嘟嘟左衛門 阅读(418) 评论(0) 推荐(0)
摘要: 决策树 决策树是一种基本的分类和回归方法. 决策树模型呈树形结构, 在分类问题中, 表示基于特征对实例进行分类的过程, 它可以认为是 if-then 规则的集合, 也可以认为是定义在特征空间与类空间上的条件概率分布. 决策树学习通常包含 3 个步骤: 特征选择, 决策树的生成和决策树的修剪. 模型与 阅读全文
posted @ 2020-12-07 21:17 肥嘟嘟左衛門 阅读(199) 评论(0) 推荐(0)