随笔分类 - 机器学习与深度学习
机器学习是一门人工智能的科学,该领域的主要研究对象是人工智能,特别是如何在经验学习中改善具体算法的性能。
深度学习是机器学习中一种基于对数据进行表征学习的算法。
【论文精炼】OUTRAGEOUSLY LARGE NEURAL NETWORKS: THE SPARSELY-GATED MIXTURE-OF-EXPERTS LAYER | 超大规模神经网络:稀疏门控专家混合层 | 2017年
摘要:论文出自:Shazeer N, Mirhoseini A, Maziarz K, et al. Outrageously large neural networks: The sparsely-gated mixture-of-experts layer[J]. arXiv preprint arX
阅读全文
主成分分析 | Principal Components Analysis | PCA
摘要:理论 仅仅使用基本的线性代数知识,就可以推导出一种简单的机器学习算法,主成分分析(Principal Components Analysis, PCA)。 假设有 $m$ 个点的集合:$\left\{\boldsymbol{x}^{(1)}, \ldots, \boldsymbol{x}^{(m)}
阅读全文
Python实现感知器的逻辑电路(与门、与非门、或门、异或门)
摘要:在神经网络入门回顾(感知器、多层感知器)中整理了关于感知器和多层感知器的理论,这里实现关于与门、与非门、或门、异或门的代码,以便对感知器有更好的感觉。 此外,我们使用 pytest 框架进行测试。 与门、与非门、或门 通过一层感知器就可以实现与门、与非门、或门。 先写测试代码 test_percep
阅读全文
【PyTorch v1.1.0文档研习】60分钟快速上手
摘要:阅读文档:使用 PyTorch 进行深度学习:60分钟快速入门。 本教程的目标是: 总体上理解 PyTorch 的张量库和神经网络 训练一个小的神经网络来进行图像分类 PyTorch 是个啥? 这是基于 Python 的科学计算包,其目标是: 替换 NumPy,发挥 GPU 的作用 一个提供最大灵活
阅读全文
神经网络入门回顾(感知器、多层感知器)
摘要:神经网络属于“联结主义”,和统计机器学习的理论基础区别还是很不一样。 以我自己的理解,统计机器学习的理论基于统计学,理论厚度足够强,让人有足够的安全感;而神经网络的理论更侧重于代数,表征能力特别强,不过可解释性欠佳。 这两个属于机器学习的两个不同的流派,偶尔也有相互等价的算法。 本文回顾神经网络最简
阅读全文
统计学习方法基础总结
摘要:统计学习 统计学习:也称统计机器学习,是计算机基于数据构建概率统计模型,并用模型进行预测与分析的一门学科。 数据是统计学习的对象。统计学习关于数据的基本假设是同类数据具有一定的统计规律性,这是统计学习的前提。这些数据具有某种共同的性质,并且由于具有统计规律性,因此可以用统计学习方法来加以处理。 预测
阅读全文
Tensorflow简单实践系列(三):图和会话
摘要:当执行一个 TensorFlow 函数的时候,并不会马上执行运算,而是把运算存储到一个称为“图”(graph)的数据结构里面。 图存储的各种运算,只有在会话(session)里执行图,才会真正地执行。 图的构建 对于 它们所形成的图就是: TensorFlow 用 Graph 这个容器数据结构来表示
阅读全文
Tensorflow简单实践系列(二):张量
摘要:在上一节中,我们安装 TensorFlow 并运行了最简单的应用,这节我们熟悉 TensorFlow 中的张量。 张量是 TensorFlow 的核心数据类型。数学里面也有张量的概念,但是 TensorFlow 的张量其实不一样,更像是一个 n 维数组。 不能在常规 Python 例程中访问张量,因
阅读全文
Tensorflow简单实践系列(一):安装和运行
摘要:TensorFlow 是谷歌开发的机器学习框架。 安装 TensorFlow 直接使用 pip 安装即可,添加豆瓣镜像可以加快速度: 如果有 GPU 可以充分利用,安装: 目前我使用的 TensorFlow 版本是 tensorflow==1.14.0 ,目前 TensorFlow 不支持 3.7
阅读全文
Python实现简单的梯度下降法
摘要:Python 实现简单的梯度下降法 机器学习算法常常可以归结为求解一个最优化问题,而梯度下降法就是求解最优化问题的一个方法。 梯度下降法(gradient descent)或最速下降法(steepest decent),是求解无约束最优化问题的一种最常用的方法。 梯度下降法实现简单,是一种迭代算法,
阅读全文
浙公网安备 33010602011771号