当前位置: 首页 > news >正文

【深度学习|学习笔记】从机器学习范式看神经网络能解决什么?(一)

【深度学习|学习笔记】从机器学习范式看神经网络能解决什么?(一)

【深度学习|学习笔记】从机器学习范式看神经网络能解决什么?(一)


文章目录

  • 【深度学习|学习笔记】从机器学习范式看神经网络能解决什么?(一)
  • 前言
    • 1. 从机器学习范式看神经网络能解决什么
      • 监督学习:有标签
      • 无监督 / 自监督:无人工标签
      • 生成建模:学到数据分布并采样
      • 时序/序列建模:RNN/LSTM/Transformer
      • 强化学习(RL):与环境交互学策略
      • 图学习(GNN):图结构数据
      • 推荐/排序:CTR/CVR 预估、多目标排序
      • 科学与工程:PINNs、反演与同化
      • 多模态:图文、语音、时空
    • 2. 典型问题清单(含输入输出与常用评价)
    • 3. 何时优先用神经网络?
    • 4. 何时慎用/不用?
    • 5. Python 代码小册(PyTorch 迷你范式)
      • 5.1 表格数据:二分类/回归(同一 MLP 结构复用)


欢迎铁子们点赞、关注、收藏!
祝大家逢考必过!逢投必中!上岸上岸上岸!upupup

大多数高校硕博生毕业要求需要参加学术会议,发表EI或者SCI检索的学术论文会议论文。详细信息可扫描博文下方二维码 “学术会议小灵通”或参考学术信息专栏:https://blog.csdn.net/2401_89898861/article/details/148877490


前言

  • 下面这份“总览 + 代码示例”会把神经网络能解决的问题,放在机器学习的经典范式里系统讲清楚,并给出可直接改造的 PyTorch 小样例。你可以把它当作“问题→方法→实现”的速查表。

1. 从机器学习范式看神经网络能解决什么

神经网络(NN)= 可学习的非线性函数族,通过梯度下降在数据驱动下自动学习表示(representation)。它覆盖了几乎所有常见学习范式:

监督学习:有标签

  • 回归(连续变量预测)、分类(离散类别)、结构化输出(语义分割、实例分割、检测、关键点/姿态)。

无监督 / 自监督:无人工标签

  • 聚类、表征学习(对比学习、掩码重建)、密度估计、异常检测(自编码器、扩散模型重建误差)。

生成建模:学到数据分布并采样

  • 文生图(扩散/Transformer)、文本生成、语音合成、超分辨率、去噪、缺失值填补。

时序/序列建模:RNN/LSTM/Transformer

  • 机器翻译、语音识别、时间序列预测(气象、水文、交易量、IoT)、事件序列建模。

强化学习(RL):与环境交互学策略

  • 机器人/控制、运筹优化(车队调度、路径规划)、游戏智能体。

图学习(GNN):图结构数据

  • 社交/交通/分子图的节点分类、链路预测、图分类。

推荐/排序:CTR/CVR 预估、多目标排序

  • Wide&Deep、DeepFM、DIN/DIEN 等深度特征交互模型。

科学与工程:PINNs、反演与同化

  • 偏微分方程求解、物理约束重建、遥感反演、下采样→上采样/下尺度化(downscaling)。

多模态:图文、语音、时空

  • 检索(CLIP)、VQA、视频理解、遥感时空融合。

2. 典型问题清单(含输入输出与常用评价)

问题类型输入→输出常用架构损失评价指标
回归x→y∈ℝMLP/ResNet/TransformerMSE/HuberRMSE/MAE/R²
二/多分类x→y∈{1…K}MLP/CNN/TransformerCE/FocalAcc/F1/AUC
语义分割图像→像素类别图U-Net/DeepLabCE+DicemIoU/Dice
目标检测图像→框+类别YOLO/DetectronGIoU+CEmAP
时序预测序列→未来值LSTM/TCN/TransformerMSE/MAERMSE/MAPE
异常检测x→重建x̂AE/VAEL2/ELBOAUROC/PR
推荐/排序用户×物品→点击/分数DeepFM/DINBCE/PairwiseAUC/NDCG
图学习图/节点→标签GCN/GATCEAcc/F1
生成噪声/提示→样本Diffusion/VAEDiffusion/ELBOFID/IS/PSNR
强化学习状态→动作Policy/Value NetRL目标累积回报

3. 何时优先用神经网络?

  • 强非线性/高维原始模态:图像、语音、文本、时空格点数据。
  • 端到端表征学习:手工特征难以覆盖时。
  • 大数据 + 可计算:NN 随数据规模提升表现通常更稳健。
  • 需要生成/重建/填补:扩散、AE、VAE 很合适。

4. 何时慎用/不用?

  • 样本极少但特征工程成熟:先试线性/树模型。
  • 强可解释性刚需:可选广义加性模型/GAM、树模型或加可解释约束。
  • 部署资源极小:考虑蒸馏/剪枝/量化或更轻模型。

5. Python 代码小册(PyTorch 迷你范式)

  • 说明:以下示例都尽量精简,展示“问题→网络→损失→指标”的骨架,便于你替换数据集与超参。

5.1 表格数据:二分类/回归(同一 MLP 结构复用)

import torch, torch.nn as nn, torch.nn.functional as F
from torch.utils.data import TensorDataset, DataLoader# 伪造一些数据:N 行、d 维
N, d = 2000, 20
X = torch.randn(N, d)
# 二分类标签
y_cls = (X[:, 0] + 0.5*X[:, 1] - 0.3*X[:, 2] + 0.1*torch.randn(N) > 0).long()
# 回归标签
y_reg = X[:, :5].sum(dim=1) + 0.1*torch.randn(N)class MLP(nn.Module):def __init__(self, in_dim, out_dim):super().__init__()self.net = nn.Sequential(nn.Linear(in_dim, 128), nn.ReLU(),nn.Linear(128, 64), nn.ReLU(),nn.Linear(64, out_dim))def forward(self, x): return self.net(x)def train_simple(X, y, out_dim, loss_fn, epochs=20):ds = TensorDataset(X, y)dl = DataLoader(ds, batch_size=64, shuffle=True)model = MLP(X.shape[1], out_dim)opt = torch.optim.Adam(model.parameters(), 1e-3)for _ in range(epochs):for xb, yb in dl:pred = model(xb)loss = loss_fn(pred.squeeze(), yb)opt.zero_grad(); loss.backward(); opt.step()return model# 二分类:CrossEntropy 要求 logits,标签为 long
clf = train_simple(X, y_cls, out_dim=2, loss_fn=lambda p,y: F.cross_entropy(p, y))# 回归:MSE
reg = train_simple(X, y_reg, out_dim=1, loss_fn=lambda p,y: F.mse_loss(p, y))
http://www.dtcms.com/a/449871.html

相关文章:

  • 辽宁网站定制企业创业平台
  • UNIX下C语言编程与实践38-UNIX 信号操作:signal 函数与信号捕获函数的编写
  • dede 分类信息网站 模板wordpress怎么装插件
  • 分布式系统实战:电商平台架构演进
  • 基于YOLOv8+CNN的智能停车场车牌识别系统(视频图片均可)(完整实现,附完整可直接运行代码)
  • @ComponentScan组件扫描原理
  • 沈阳制作网站的公司网站开发要什么
  • MySQL 8.0存储引擎选型指南
  • 做移动端网站设计网站怎样制作
  • redis的哨兵机制简单问题
  • 打造自己的中秋 AR 赏月应用:实现虚实融合的节日体验
  • 建设网站学什么建设考试的报名网站
  • 色块网站设计在家做的网站编辑
  • WebRTC 入门与实战(二)之中级篇
  • pass@1是什么意思
  • 沈阳网站建设技术公司百度站长工具seo
  • 做国内电影网站赚钱不简述电子商务网站开发的主要步骤
  • InputStream和OutputStream在网络编程发挥的作用
  • CCS闪退问题---------中文系统用户名
  • 专业电竞体育数据与系统解决方案
  • 初阶运维工程师工作内容与能力体系:专业视角解析
  • 我的钢铁网网站架构林芝北京网站建设
  • OpenManus项目架构解析
  • 【HarmonyOS】消息通知
  • 网上做流量对网站有什么影响asp.net 做网站实例
  • 深圳建设资格注册中心网站网站建设采用的技术
  • gRPC从0到1系列【22】
  • 闹钟定时器(Alarm Timer)初始化:构建可挂起的定时器基础框架
  • 云南公司建网站多少钱wordpress修改菜单的原始链接
  • 自己如何建设个网站首页站酷网官方入口网页版