当前位置: 首页 > news >正文

PyTorch线性代数操作详解:点积、矩阵乘法、范数与轴求和

本文通过代码示例详细讲解PyTorch中常用的线性代数操作,包括点积、矩阵乘法、范数计算以及按轴求和等操作,帮助读者掌握张量运算的核心方法。


1. 点积运算

点积(Dot Product)是两个向量对应元素相乘后求和的结果。
实现代码

import torchx = torch.tensor([0, 1, 2, 3], dtype=torch.float32)
y = torch.ones(4, dtype=torch.float32)
x, y, torch.dot(x, y)  # 计算点积

输出结果

(tensor([0., 1., 2., 3.]), tensor([1., 1., 1., 1.]), tensor(6.))

等价实现方式:

torch.sum(x * y)  # 通过逐元素乘法和求和实现点积

输出

tensor(6.)

2. 矩阵与向量乘法

使用 torch.mv 实现矩阵与向量的乘法。
代码示例

x = torch.arange(12).reshape((3, 4)).float()
y = torch.ones(4, dtype=torch.float32)
x.shape, y.shape, torch.mv(x, y)  # 矩阵形状、向量形状及乘法结果

输出

(torch.Size([3, 4]), torch.Size([4]), tensor([ 6., 22., 38.]))

3. 矩阵与矩阵乘法

使用 torch.mm 实现矩阵与矩阵的乘法。
代码示例

b = torch.ones(4, 3).float()
torch.mm(x, b)  # 3x4矩阵与4x3矩阵相乘

输出

tensor([[ 6.,  6.,  6.],[22., 22., 22.],[38., 38., 38.]])

4. 范数计算

L2范数(欧几里得范数)

torch.norm(y)  # 计算向量y的L2范数

输出

tensor(2.)

L1范数(绝对值之和)

torch.abs(y).sum()  # 计算向量y的L1范数

输出

tensor(4.)

Frobenius范数(矩阵范数)

torch.norm(x)  # 计算矩阵x的F范数

输出

tensor(22.4944)

5. 按轴求和

沿指定轴求和并保留维度

sum_x = x.sum(axis=0, keepdim=True)  # 沿水平方向求和,保留维度
sum_x

输出

tensor([[12., 15., 18., 21.]])

三维张量的轴求和

a = torch.ones((2, 5, 4))
a.shape  # 初始形状

输出

torch.Size([2, 5, 4])
对多个轴求和
a.sum(axis=[0, 2], keepdim=True).shape  # 沿第0和第2轴求和

输出

torch.Size([1, 5, 1])
单轴求和保留维度
a.sum(axis=1, keepdim=True).shape  # 沿第1轴求和并保留维度

输出

torch.Size([2, 1, 4])

总结

本文演示了PyTorch中常用的线性代数操作,包括:

  • 点积torch.dot 或逐元素乘法后求和;

  • 矩阵乘法torch.mv(矩阵与向量)、torch.mm(矩阵与矩阵);

  • 范数计算:L1、L2和Frobenius范数;

  • 轴求和:通过 sum(axis) 控制求和方向,keepdim 保留维度。

这些操作是深度学习模型实现的基础,熟练掌握可提升张量运算的效率和代码可读性。

相关文章:

  • 字符串转换整数(atoi)(8)
  • 在阿里云 Ubuntu 24.04 上部署 RabbitMQ:一篇实战指南
  • 【进阶】--函数栈帧的创建和销毁详解
  • Spring MVC 与 FreeMarker 整合
  • OpenGL-ES 学习(10) ---- OpenGL-ES Shader语言语法
  • 健康生活新主张:全方位养生指南
  • WPF嵌入webapi服务器,充当微服务角色
  • 人工智能的前世今生
  • IRF2.0IRF3.1
  • 基于开源链动2+1模式AI智能名片S2B2C商城小程序的个性化与小众化消费社群构建研究
  • Spring Boot 使用 WebMagic 爬虫框架入门
  • 利用无事务方式插入数据库解决并发插入问题
  • 深入解析 .NET Kestrel:高性能 Web 服务器的架构与最佳实践
  • 论文笔记——QWen2.5 VL
  • 二、HTML
  • curl详解
  • 从工厂到生活:算法 × 深度学习,正在改写自动化的底层逻辑
  • 机器人--架构及设备
  • 【数据结构】--- 双向链表的增删查改
  • spring-boot-maven-plugin 将spring打包成单个jar的工作原理
  • 两部门调度部署“五一”假期安全防范工作,要求抓好旅游安全
  • 人物|德国新外长关键词:总理忠实盟友、外交防务专家、大西洋主义者
  • 山西太原小区爆炸事故已造成17人受伤
  • 医学统计专家童新元逝世,终年61岁
  • “上博号”彩绘大飞机今日启航:万米高空传播中国古代文化
  • 习近平在上海考察