当前位置: 首页 > wzjs >正文

企业网站官网模板搜索风云榜百度

企业网站官网模板,搜索风云榜百度,个人网页模板模板之家,申请免费的个人网站需要从PointNet网络框架中提取encoder部分的参数,然后赋予自己的模型。因此,需要从一个已有的.pth文件读取部分参数,加载到自定义模型上面。做了一些尝试,记录如下。 关于模型保存与载入 torch.save(): 使用Python的pickle实用程…

需要从PointNet网络框架中提取encoder部分的参数,然后赋予自己的模型。因此,需要从一个已有的.pth文件读取部分参数,加载到自定义模型上面。做了一些尝试,记录如下。

关于模型保存与载入

torch.save(): 使用Python的pickle实用程序将对象进行序列化,然后将序列化的对象保存到disk,可以保存各种对象,包括模型、张量和字典等。
torch.load(): 使用pickle unpickle工具将pickle的对象文件反序列化为内存。
可以看出,pth文件本质上是一个序列化的dict。

我们在save时,代码如下:

state = {'epoch': epoch,'model_state_dict': model.state_dict(),'optimizer_state_dict': optimizer.state_dict(),
}

然后以下代码load进来:

checkpoint = torch.load(args.model_file,  map_location=device)
model.load_state_dict(checkpoint['model_state_dict'])

查看checkpoint,可以看到包含的就是自己保存时的3个dict,分别是epoch,model_state_dict,和optimizer信息。
在这里插入图片描述

这里我们重点关注 model_state_dict,数据类型是一个 OrderedDict,有序字典。展开如下:
在这里插入图片描述
可以看到里面包含了自己定义的encoder,bn1-3,mlp 1-4层,以及每个层对应的参数(权重、bias,对于bn层还有mean, var等)。
这个Dict的顺序就是在Model中我们定义的顺序,这个和模型是一致的。
因此,如果载入时的模型和保存模型完全一致,直接用load_state_dict()就可以按顺序把数据载入进来。但如,如果定义不同怎么办?这就需要手动载入。

方法1:手动载入指定层的参数

从debug的断点可以看到,每个参数就是存在dict中的一个tensor。因此,我们只要读取对应的dict即可。
例如,encoder的conv1的权重,就是 checkpoint['model_state_dict']['encoder.conv1.weight'],那么我们在自己的模型对应的位置读取这个dict即可。
具体载入方式如下:

# 定义模型
model = MyPointNetSegmentation(channel=3, get_feature=True, batch_size=1)
model.to('cpu')# 载入其他模型的参数
checkpoint = torch.load(model_file, map_location='cpu')
model_dict = checkpoint['model_state_dict']# 将其他模型的参数,赋值给自己模型对应参数
model.encoder.conv1.weight.data.copy_(model_dict['encoder.conv1.weight'])
model.encoder.conv1.bias.data.copy_(model_dict['encoder.conv1.bias'])

把所有有用的参数都赋值过来就好,但要注意参数对应的tensor维度是一样的。
在这里插入图片描述

方法2:一次性载入key值相同的参数

如果说两个model的某些key值相同,可以用python的字典推导方式,将名称相关的参数提取出来。例如:

def load_dict_from_pointnet(model : Point2VoxelNet, checkpoint):my_model_dict = model.state_dict()pretrained_dict =  checkpoint['model_state_dict']# 只将pretraind_dict中那些在model_dict中的参数,提取出来state_dict = {k:v for k,v in pretrained_dict.items() if k in my_model_dict .keys()}my_model_dict.update(state_dict)		# 注意要更新state的变量,如果直接赋值,会出现某些key没有定义,导致运行失败model.load_state_dict(my_model_dict)# 对比参数是否一致print(f"{checkpoint['model_state_dict']['feat.stn.conv1.weight'][1]}")print(f"{model.feat.stn.conv1.weight[1]}")return model

看到这里,可以知道如果自己的模型改了名称,例如.pth的参数是:feat.stn.conv1,我这边叫做了 encoder.stn.conv1,那么是无法直接赋值的。可以用方法1,一个个载入,但是太慢了。另一种方式,是做一个键值映射,如果读到的是 feat.xxx,则赋予自定义模型中的 encoder.xxx ,简单处理即可。

注意事项

  • conv层需要载入的参数有:weight 和 bias
  • BN层涉及的参数有:
    1. weight,bias
    2. running_mean,running_var:这两个参数用于归一化的均值和方差, 因此也需要载入
    3. num_batches_tracked:在训练时需要载入,在test时不需要载入
  • 载入参数后,如果用于测试,需要调用 eval()。注意不能在载入参数前调用 eval。eval 会将 bn 层的training参数设置为 false ,这样在测试时 batch_size 时如果是 1 也能够正常运行。

测试

用默认方式载入参数,以及手动方式载入后的两个模型,预测结果一致。

http://www.dtcms.com/wzjs/68297.html

相关文章:

  • 云南SEO网站建设电商平台建设方案
  • 易语言做试用点击网站广告传媒公司经营范围
  • 石家庄网页设计工资吉林网站seo
  • 毕业论文网站建设模板重庆百度推广
  • 镇江网站建设费用沈阳百度seo关键词排名优化软件
  • 英文网站建设方案海外推广渠道都有哪些
  • 做服务的网站吗百度识别图片找图
  • 电梯企业网站制作接app推广的单子在哪接
  • 怎样做自己的网站学网络营销
  • 锦州网站建设更好免费网络推广工具
  • 网站建设报价单ppt成都网站快速开发
  • wordpress占用空间seosem是指什么意思
  • 学做甜点的网站关键词网站排名查询
  • 外汇黄金网站建设长沙百度推广公司电话
  • 网络推广方案要怎么做seo高级优化方法
  • 贵州做网站的公司青岛的seo服务公司
  • 政府网站平台建设的一些问题网站seo策划方案案例分析
  • 2017如何做企业网站网盘资源搜索神器
  • 绵阳建设招投标在哪个网站关键词搜索网站
  • 重庆网站公司推荐百度答主招募入口官网
  • angularjs开发网站模板全网推广软件
  • 农村电商平台网站设计思路有哪些百度seo优化按年收费
  • 高清logo网站游戏推广员骗局
  • cms企业网站管理系统品牌网络推广运营公司
  • 微信微商城平台厦门seo推广外包
  • 贵州省建设厅网站首页成都搜索优化排名公司
  • 忘记网站后台账号免费学生网页制作成品
  • 找人做seo要给网站程序外贸独立站建站
  • 怎么做整人的网站武汉seo诊断
  • 唐山网站建设多少钱网站维护费用一般多少钱