Pytorch目录细查

Pytorch 目录细查：

参考：https://www.runoob.com/pytorch/pytorch-basic.html

注意：
我们唯一要做的，就是要记住：它大概有哪些内容就行。
不要去试图把所有的内容都记住或者写到笔记本，相信我，不出三天你就全忘了。
你如果实在要背，请你先把这个目录先背下来吧！

1. 张量（Tensor）

参考：https://www.runoob.com/pytorch/pytorch-tensor.html

1.1 创建张量
1.2 张量的属性
1.3 张量的操作1.3.1 基础操作1.3.2 形状操作
1.4 张量的 GPU 加速
1.5 张量与 NumPy 的互操作

2. 神经网络基础

参考：https://www.runoob.com/pytorch/pytorch-neural-network.html

2.1 神经元2.1.1 输入【原始数据】2.1.2 输出【预测结果】
2.2 层2.2.1 输入层2.2.2 隐藏层【处理数据】2.2.3 输出层
2.3 前馈神经网络（FNN）2.3.1 输出层2.3.2 隐藏层2.3.3 输出层2.3.4 连接权重与偏置
2.4 循环神经网络 RNN【处理序列数据】
2.5 非线性激活函数【复杂任务】2.5.1 Sigmoid【二分类】2.5.2 Tanh2.5.3 ReLU【最流行且解决梯度消失】2.5.4 Softmax【多分类概率分布】
2.6 损失函数【衡量差异】2.6.1 均方误差【回归】2.6.2 交叉熵损失【分类】2.6.8 BCEWithLogitsLoss【二分类】
2.7 优化器【更新参数】2.7.1 SGD（随机梯度下降）2.7.2 Adam（自适应矩估计）2.7.3 RMSprop（均方根传播）
2.8 训练过程2.8.1 准备数据2.8.2 定义损失函数和优化器2.8.3 前向传播2.8.4 计算损失2.8.5 反向传播2.8.6 更新参数2.8.7 重复上述步骤，直到达到预定的训练轮数
2.9 测试与评估2.9.1 计算测试集的损失2.9.2 计算准确率（Accuracy）
2.10 神经网络类型2.10.1 前馈神经网络（FNN）2.10.2 循环神经网络（RNN）2.10.3 卷积神经网络（CNN）2.10.4 长短期记忆网络（LSTM）

3. 第一个神经网络

参考：https://www.runoob.com/pytorch/pytorch-first-neural-network.html

3.1 数据准备
3.2 定义神经网络模型
3.3 定义损失函数和优化器
3.4 训练循环
3.5 测试模型并可视化结果

4. 数据处理与加载

参考：https://www.runoob.com/pytorch/pytorch-data-loading.html

4.1 自定义 Dataset
4.2 使用 DataLoader 加载数据
4.3 图像预处理
4.4 图像增强
4.5 加载图像数据集
4.6 用多个数据源

5. 线性回归

参考：https://www.runoob.com/pytorch/pytorch-linear-regression.html

5.1 数据准备
5.2 定义线性回归模型
5.3 定义损失函数与优化器
5.4 训练模型
5.5 评估模型
5.6 可视化结果分析

6. 卷积神经网络CNN

参考：https://www.runoob.com/pytorch/pytorch-convolutional-neural-network.html

6.1 基本结构【用于图像识别任务】6.1.1 输入层6.1.2 卷积层【提取局部特征】6.1.3 激活函数6.1.4 池化层【降低特征图维度】6.1.5 归一化层【加速训练过程】6.1.6 全连接层【综合特征并进行最终的分类或回归】6.1.7 输出层6.1.8 损失函数6.1.9 优化器6.1.10 正则化【防止模型过拟合】
6.2 实现一个 CNN 实例6.2.1 导入必要库6.2.2 数据加载6.2.3 定义 CNN 模型6.2.4 定义损失函数与优化器6.2.5 训练模型6.2.6 测试模型6.2.7 可视化结果分析

7. 循环神经网络RNN

参考：https://www.runoob.com/pytorch/pytorch-recurrent-neural-network.html

7.1 基本结构【处理序列数据】7.1.1 输入序列7.1.2 隐藏状态【时间步】7.1.3 权重矩阵 7.1.4 输出序列7.1.5 循环连接7.1.6 展开7.1.7 信息流动
7.2 实现一个 RNN 实例7.2.1 导入必要库7.2.2 定义 RNN 模型7.2.3 创建训练数据7.2.4 定义损失函数与优化器7.2.5 训练模型7.2.6 测试模型7.2.7 可视化结果分析

8. 数据集

参考：https://www.runoob.com/pytorch/pytorch-datasets.html

8.1 torch.utils.data.Dataset
8.2 torch.utils.data.DataLoader
8.3 使用内置数据集
8.4 Dataset 与 DataLoader 的自定义应用

9. 数据转换

参考：https://www.runoob.com/pytorch/pytorch-data-transform.html

9.1 基础变换操作
9.2 数据增强操作
9.3 组合变换
9.4 自定义转换
9.5 实例9.5.1 对图像数据集应用转换9.5.2 可视化转换效果

10. Transform 模型

参考：https://www.runoob.com/pytorch/transformer-model.html

10.1 Transformer【通用架构优势明显，与CNN和RNN融合是趋势】
10.2 编码器（Encoder）10.2.1 多头自注意力机制10.2.2 前馈神经网络
10.3 解码器（Decoder）10.3.1 掩码多头自注意力机制10.3.2 编码器-解码器注意力机制10.3.3 前馈神经网络
10.4 Transformer 核心思想10.4.1 注意力机制10.4.2 多头注意力10.4.3 位置编码10.4.4 编码器-解码器架构10.4.5 前馈神经网络10.4.6 残差连接和层归一化