zhchoice

摘要： ！！！本次模拟训练的时长在没有下载的基础上且使用cuda加速的情况下是4min多。 （需要保证体验的话，需要使用cuda或者mps进行加速，且提前下载数据集） 在上一篇实验中，我们看到 MLP 在 MNIST 手写数字识别上可以达到接近 97.5% 的准确率。这说明 MLP 具备了较强的拟合能力，只 阅读全文

摘要： ！！！一下训练的样本我是通过mps进行加速了训练过程中，如果使用NVIDIA 显卡需自己进行调整device 通过torchvision.datasets.MNIST 我们可以下载到已经准备好的素材，可以通过一下代码进行训练 import torch import torch.nn as nn im 阅读全文

摘要： 前面我们讲到 MLP 的本质就是“函数建模”，即通过调整参数（权重 w、偏置 b）去逼近输入与输出之间的关系。 那么问题来了：如果我们给出一组很简单的线性数据，比如一条直线 y = mx + b，MLP 能不能自己学会这条直线呢？ 答案是 可以。这就是线性回归在神经网络框架中的最小演示。 二、实验设 阅读全文

摘要： 回顾上章：MLP 在引入非线性后，可以形成弯曲的边界 ，但问题：它是怎么知道应该弯成什么样？ **答案：通过 损失函数衡量差距 + 反向传播更新参数。 二、损失函数（Loss Function）的角色 • 定义：衡量模型预测与真实结果的差异。 • 分类任务常用： • 二分类 → 二元交叉熵 (Bin 阅读全文

摘要： 定力内容：一个 两层的前馈神经网络（只要隐藏层足够大，且使用非线性激活函数），就可以逼近任意连续函数。 • 对分类问题的启示： 分类其实就是在寻找一个函数 \(f(x)\)，让它在不同类别上输出不同的值。 接下来我们通过代码演示 激活函数引入非线性 → 决策边界可以弯曲； 如图所示的问题我们通过原有 阅读全文

摘要： MLP：Multi-Layer percretron 多层感知机 单层感知机的局限性 • 单层感知机能做的只是用 一条直线 / 超平面 来分隔数据。 • 问题：遇到 异或（XOR）问题 或者更复杂的数据分布，就没办法仅靠一条直线来分开。 例如： • 点 (0,0) 和 (1,1) 属于一类 • 点 阅读全文

摘要： 1：感知机本质上是一个线性二分类器。 \(y = f(w^{\mathsf{T}} x + b)\) 其中： • x：输入向量（例如图像拉直后的像素向量） • w：权重向量 • b：偏置项 激活函数： \[f(z)= \begin{cases} +1, & z \ge 0 \\ -1, & z < 阅读全文

摘要： 1. 1943：McCulloch & Pitts 提出人工神经元模型 —— 神经网络的雏形。 2. 1957：Rosenblatt 提出感知机（Perceptron） —— 最早的可训练神经网络。 3. 1970s：Vapnik 提出统计学习理论（VC维、泛化误差界） —— 机器学习的数学基础。 阅读全文