deephub

摘要： 正态分布是高斯概率分布。高斯概率分布是反映中心极限定理原理的函数，该定理指出当随机样本足够大时，总体样本将趋向于期望值并且远离期望值的值将不太频繁地出现。高斯积分是高斯函数在整条实数线上的定积分。这三个主题，高斯函数、高斯积分和高斯概率分布是这样交织在一起的，所以我认为最好尝试一次性解决这三个主题（ 阅读全文

摘要： 这是一个我已经断断续续地研究了很长一段时间的项目。在此项目之前我从未尝试过修改游戏，也从未成功训练过“真正的”强化学习代理（智能体）。所以这个项目挑战是：解决钓鱼这个问题的“状态空间”是什么。当使用一些简单的 RL 框架进行编码时，框架本身可以为我们提供代理、环境和奖励，我们不必考虑问题的建模部分。 阅读全文

摘要： 当我们需要对数据集进行聚类时，我们可能首先研究的算法是 K means, DBscan, hierarchical clustering 。那些经典的聚类算法总是将每个数据点视为一个点。但是，这些数据点在现实生活中通常具有大小或边界（边界框）。忽略点的边缘可能会导致进一步的偏差。RVN算法是一种考虑 阅读全文

摘要： 为了提高机器学习应用程序的效率和质量，工业规模机器学习模型不断增加的复杂性刺激了对自动超参数调整方法的研究， 尽管自动超参数调整现是许多数据系统的重要组成部分，但最先进方法的有限可扩展性已成为瓶颈。 为了解决这个问题，北京大学、苏黎世联邦理工学院和快手科技的研究团队提出了 Hyper-Tune，这是 阅读全文

摘要： 我们都知道神经网络模型中使用激活函数的主要目的是将非线性特性引入到我们的网络中，强化网络的学习能力。激活函数应用于隐藏层和输出层中每个节点的称为 z 的输入加权和（此处输入可以是原始数据或前一层的输出）。 在本篇文章中我们将讨论神经网络中常见的激活函数，并使用可视化技术帮助你了解激活函数的函数定义和 阅读全文

摘要： 介绍 在这篇文章中，我们将使用现代的图机器学习技术在 Wikispeedia navigation paths路径数据集进行项目实践 West & Leskovec 之前在没有使用图神经网络 [1] 的情况下解决了类似的问题。Cordonnier & Loukas 还使用 Wikispeedia 图 阅读全文

摘要： TF-IDF, Word2Vec, GloVe, FastText, ELMO, CoVe, BERT, RoBERTa 词嵌入在深度模型中的作用是为下游任务(如序列标记和文本分类)提供输入特征。在过去的十年中，已经提出了很多种词嵌入方法，本片文章将对这些词嵌入的模型做一个完整的总结 与上下文无关 阅读全文

摘要： t 检验是一种统计技术，可以告诉人们两组数据之间的差异有多显著。它通过将信号量（通过样本或总体平均值之间的差异测量）与这些样本中的噪声量（或变化）进行比较来实现。有许多有用的文章会告诉你什么是 t 检验以及它是如何工作的，但没有太多材料讨论 t 检验的不同变体以及何时使用它们。本文将介绍 t 检验的 阅读全文

摘要： 这是一篇在2020年发表在ICLR的论文，论文使用图神经网络从稀疏数据中学习连续时间偏微分方程，文章提出的模型主要创新点是允许任意空间和时间离散化，也就是说在求解偏微分划分网格时，网格可以是不均匀的，由于所求解的控制方程是未知的，在表示控制方程时，作者使用了消息传递的图神经网络进行参数化。 在许多系 阅读全文

摘要： Google发布的TabNet是一种针对于表格数据的神经网络，它通过类似于加性模型的顺序注意力机制（sequential attention mechanism）实现了instance-wise的特征选择，还通过encoder-decoder框架实现了自监督学习。 表格数据是日常中用到的最多的数据类 阅读全文