Mephostopheles

摘要： 记一次tradingview的misx文件在win11上无法安装 阅读全文

摘要： 本篇我们要讲解的模型是大名鼎鼎的支持向量机 SVM，这是曾经在机器学习界有着近乎「垄断」地位的模型，影响力持续了好多年。直至今日，即使深度学习神经网络的影响力逐渐增强，但 SVM 在中小型数据集上依旧有着可以和神经网络抗衡的极好效果和模型鲁棒性。 阅读全文

摘要： 之前对强大的 boosting 模型工具 XGBoost 做了介绍，本篇我们来学习一下 GBDT 模型的另一个进化版本：LightGBM 。LightGBM 是微软开发的 boosting 集成模型，和 XGBoost 一样是对 GBDT 的优化和高效实现，原理有一些相似之处，但它很多方面比 XGBoost 有着更为优秀的表现。官方给出的这个工具库模型的优势如下： 更快的训练效率 低内存使用 更高的准确率 支持并行化学习 可处理大规模数据 支持直接使用 category 特征 阅读全文

摘要： XGBoost 是 eXtreme Gradient Boosting 的缩写称呼，它是一个非常强大的 Boosting 算法工具包，优秀的性能（效果与速度）让其在很长一段时间内霸屏数据科学比赛解决方案榜首，现在很多大厂的机器学习方案依旧会首选这个模型。 阅读全文

摘要： 什么是竞品分析？ 顾名思义，是对竞争对手的产品进行比较分析的过程，一种带有主观性的横向分析过程；通过对多个产品的整体架构、功能、商业模式、产品策略等多维度的横向对比分析，从而获得目的性的结论。那如何分析呢？我们这里按照下面几个点来一一展开：**明确目的，行业分析，确定竞品，确定维度，搜索数据，对比分析，输出结论。** 阅读全文

摘要： GBDT（Gradient Boosting Decision Tree），全名叫梯度提升决策树，是一种迭代的决策树算法，又叫 MART（Multiple Additive Regression Tree），它通过**构造一组弱的学习器（树），并把多颗决策树的结果累加起来作为最终的预测输出。**该算法将决策树与集成思想进行了有效的结合。 阅读全文

摘要： 回归树其实是将输入空间划分为$M$个单元，每个区域的输出值是该区域内所有点$y$值的平均数 阅读全文

摘要： 记一次我的博客园页面突然无法显示markdown数学公式，之前都还好好的，今天突然给我数学公式卡没了...... 阅读全文

摘要： 随机森林是一种**由决策树构成的（并行）集成算法**，属于Bagging类型，通过组合多个弱分类器，最终结果通过投票或取均值，使得整体模型的结果具有较高的精确度和泛化性能，同时也有很好的稳定性，广泛应用在各种业务场景中。随机森林有如此优良的表现，主要归功于「随机」和「森林」，一个使它具有抗过拟合能力，一个使它更加精准。 阅读全文

摘要： 决策树（Decision tree）是基于已知各种情况（特征取值）的基础上，通过构建树型决策结构来进行分析的一种方式，是常用的有监督的分类算法（也就是带有标签的训练数据集训练的，比如后文中使用到的训练集中的好瓜坏瓜就是标签，形容瓜的就是特征） 阅读全文