当前位置: 首页 > news >正文

关于with torch.no_grad:的一些小问题

with torch.no_grad:是截断梯度记录的,新生成的数据的都不记录梯度,但是今天产生了一点小疑惑,如果存在多层函数嵌入,是不是函数内所有的数据都不记录梯度,验证了一下,确实是的。

import torch
x = torch.randn(10, 5, requires_grad = True)
y = torch.randn(10, 5, requires_grad = True)
z = torch.randn(10, 5, requires_grad = True)
def add(x,y,z):
    w = x + y + z
    print(w.requires_grad)
    print(w.grad_fn)
def add2(x,y,z):
    add(x,y,z)
with torch.no_grad():
    add2(x,y,z)
    
add2(x,y,z)
“”“
输出:
False
None
True
<AddBackward0 object at 0x00000250371BED68>
”“”
http://www.dtcms.com/a/5589.html

相关文章:

  • Mac 上配置Java环境变量
  • 力扣题目学习笔记(OC + Swift)16. 最接近的三数之和
  • Elasticsearch 性能调优基础知识
  • Android Studio 显示前进后退按钮
  • 【C语言】自定义类型之联合和枚举
  • 【C语言】自定义类型——枚举、联合体
  • 类和对象(中篇)
  • 解决 Hive 外部表分隔符问题的实用指南
  • kettle查库组装参数循环调用第三方接口入库
  • 金蝶报表二开
  • 【GoLang】哪些大公司正在使用Go语言
  • eclipse中基于maven构建的web项目pom.xml中指定的jar包无法发布到tomcat中
  • 如何实现公网访问本地内网搭建的WBO白板远程协作办公【内网穿透】
  • 华为mpls vpn跨域方案A
  • 本地文件内容搜索神器AnyTXT Searcher如何搭建与远程访问
  • 数据库故障Waiting for table metadata lock
  • Jvm GC 参数总结「二」
  • 【make/Makefile】Linux下进度条的设计与实现
  • 2-高可用-负载均衡、反向代理
  • Apache Tomcat httpoxy 安全漏洞 CVE-2016-5388 已亲自复现
  • Axure中继器的使用实现表格的增删改查的自定义文件
  • LVS负载均衡器(DR模式)+nginx七层代理+tomcat多实例+php+mysql 实现负载均衡以及动静分离、数据库的调用!!!
  • Rabbitmq 死信取消超时订单
  • olap/clickhouse-编译器优化与向量化
  • 数据结构学习 Leetcode300最长递增子序列
  • YOLOv8改进 | 2023注意力篇 | HAttention(HAT)超分辨率重建助力小目标检测 (全网首发)
  • XXE漏洞 [NCTF2019]Fake XML cookbook1
  • SQL Server 安装教程
  • MySQL——表的增删查改
  • 软件设计模式:UML类图