读书报告

深度学习之神经网络：原理、演进与实践探索

——基于CIFAR-10图像分类任务的实践分析

一、引言：神经网络的核心价值与研究背景

在人工智能技术爆发的当下，神经网络作为深度学习的核心载体，彻底改变了机器感知世界的方式。从图像识别、自然语言处理到自动驾驶，其通过模拟人类大脑神经元的连接模式，实现了对复杂数据的自动特征提取与模式学习——这一特性使其突破了传统机器学习“手工设计特征”的瓶颈，成为处理高维、非结构化数据的核心工具 。

本次研究以经典的CIFAR-10图像分类任务为实践载体，结合“2层卷积+2层全连接”的基础神经网络模型，系统梳理神经网络的核心原理、结构设计逻辑，并通过实验结果分析模型训练规律与性能优化方向，为理解深度学习的入门实践提供清晰路径 。

二、神经网络核心原理与结构解析

（一）基础原理：从“神经元”到“网络”的逻辑链

神经网络的最小单元是人工神经元，其模拟生物神经元“接收信号-处理信号-输出信号”的过程：通过对输入特征加权求和（z = \sum_{i=1}^{n}w_ix_i + b，w为权重、b为偏置），再经激活函数（如ReLU、Sigmoid）引入非线性，最终输出特征映射结果。

多个神经元按“层”连接形成网络：输入层接收原始数据（如CIFAR-10的3×32×32 RGB图像），隐藏层通过多层变换提取抽象特征（如边缘、纹理、物体部件），输出层给出任务结果（如10个类别的概率分布）——这种“分层特征提取”的逻辑，正是神经网络处理复杂数据的核心优势 。

（二）实践模型结构：适配CIFAR-10任务的设计

针对CIFAR-10（32×32像素、10类别彩色图像）的任务特性，本次实验设计的神经网络采用“卷积层提取空间特征+全连接层完成分类”的经典架构，具体结构如下：

1. 卷积模块：2层卷积层（Conv）+ ReLU激活函数 + 最大池化层（MaxPool）

• Conv1：输入3通道（RGB），输出64通道，3×3卷积核（捕捉局部特征），1像素填充（保持特征图尺寸）；
• MaxPool1：2×2池化核（压缩特征图尺寸，降低计算量，增强泛化），步长2（特征图尺寸从32×32降至16×16）；
• Conv2与MaxPool2：输出128通道，特征图尺寸进一步降至8×8，实现“从浅层边缘到深层部件”的特征抽象 。
  2. 分类模块：2层全连接层（Linear）+ ReLU激活函数
• Linear1：将8×8×128的卷积特征展平为1维向量（共8192个特征），映射至512维（压缩特征维度，提升计算效率）；
• Linear2：将512维特征映射至10维，对应10个类别的输出，配合交叉熵损失函数（CrossEntropyLoss）完成分类任务 。

三、实验过程与结果分析

（一）实验配置：保障训练有效性的基础设置

1. 数据预处理：CIFAR-10数据集含5万训练样本、1万测试样本，通过 transforms 工具将图像转为张量（Tensor），并按（0.5,0.5,0.5）的均值与标准差归一化——消除像素值范围差异对训练的干扰，加速模型收敛；
2. 训练参数：批次大小（batch_size）128（平衡训练速度与梯度稳定性），训练轮次（epochs）10，优化器SGD（学习率0.001，动量0.9——缓解SGD局部最优问题，加速收敛）；
3. 评估指标：训练损失（Loss，衡量预测值与真实值的差距）、训练准确率（Train Acc）、测试准确率（Test Acc，衡量模型泛化能力） 。

（二）核心结果：训练趋势与性能表现

1. 训练过程趋势：10轮训练中，模型呈现“损失稳步下降、准确率持续提升”的健康收敛状态：

• 损失（Loss）：从初始1.468降至0.573，下降幅度超60%，