deephub

摘要： 什么是最大似然估计(MLE) 最大似然估计(Maximum Likelihood Estimation)是一种可以生成拟合数据的任何分布的参数的最可能估计的技术。它是一种解决建模和统计中常见问题的方法——将概率分布拟合到数据集。 例如，假设数据来自泊松(λ)分布，在数据分析时需要知道λ参数来理解数据 阅读全文

摘要： TorchMetrics可以为我们提供一种简单、干净、高效的方式来处理验证指标。TorchMetrics提供了许多现成的指标实现，如Accuracy, Dice, F1 Score, Recall, MAE等等，几乎最常见的指标都可以在里面找到。torchmetrics目前已经包好了80+任务评价指 阅读全文

摘要： 在处理单变量时间序列数据时，我们预测的一个最主要的方面是所有之前的数据都对未来的值有一定的影响。这使得常规的机器学习方法(如训练/分割数据和交叉验证)变得棘手。 在本文中我们使用《Apex英雄》中数据分析的玩家活动时间模式，并预测其增长或下降。我们的数据来自https://steamdb.info， 阅读全文

摘要： 偏态分布(skewness distribution)指频数分布的高峰位于一侧，尾部向另一侧延伸的分布。偏态分布是与“正态分布”相对，分布曲线左右不对称的数据次数分布，是连续随机变量概率分布的一种。可以通过峰度和偏度的计算，衡量偏态的程度。 1、The Generalized-Alpha-Beta- 阅读全文

摘要： 在微调GPT/BERT模型时，会经常遇到“ cuda out of memory”的情况。这是因为transformer是内存密集型的模型，并且内存要求也随序列长度而增加。所以如果能对模型的内存要求进行粗略的估计将有助于估计任务所需的资源。 如果你想直接看结果，可以跳到本文最后。不过在阅读本文前请记 阅读全文

摘要： 在这篇文章中，我将详细解释这篇论文《Why do tree-based models still outperform deep learning on tabular data》这篇论文解释了一个被世界各地的机器学习从业者在各种领域观察到的现象——基于树的模型在分析表格数据方面比深度学习/神经网络 阅读全文

摘要： 正态（高斯）分布在机器学习中起着核心作用，线性回归模型中要假设随机误差等方差并且服从正态分布，如果变量服从正态分布，那么更容易建立理论结果。 统计学领域的很大一部分研究都是假设数据是正态分布的，所以如果我们的数据具有是正态分布，那么么则可以获得更好的结果。但是一般情况下我们的数据都并不是正态分布，所 阅读全文

摘要： 在pytorch中获取模型的可训练和不可训练的参数，层名称，内核大小和数量。 Pytorch nn.Module 类中没有提供像与Keras那样的可以计算模型中可训练和不可训练的参数的数量并显示模型摘要的方法 。所以在这篇文章中，我将总结我知道三种方法来计算Pytorch模型中可训练和不可训练的参数 阅读全文

摘要： 最近自我监督学习被重视起来。昨天我通过LinkedIn发现了这项工作，我觉得它很有趣。kaiming大神的MAE为ViT和自监督的预训练创造了一个新的方向，本篇文章将介绍Masked Siamese Networks (MSN)，这是另一种用于学习图像表示的自监督学习框架。MSN 将包含随机掩码的图 阅读全文

摘要： 由于训练时间短，越来越多人使用自适应梯度方法来训练他们的模型，例如Adam它已经成为许多深度学习框架的默认的优化算法。尽管训练结果优越，但Adam和其他自适应优化方法与随机梯度下降(SGD)相比，有时的效果并不好。这些方法在训练数据上表现良好，但在测试数据却差很多。 最近，许多研究人员已经开始针对这 阅读全文