当前位置: 首页 > news >正文

东营机关建设网站wordpress flat 下载

东营机关建设网站,wordpress flat 下载,wordpress昵称,上林住房和城乡建设网站在做深度学习项目时,从头训练一个模型是需要大量时间和算力的,我们通常采用加载预训练权重的方法,而我们往往面临以下几种情况: 未修改网络,A与B一致 很简单,直接.load_state_dict() net ANet(num_cla…

在做深度学习项目时,从头训练一个模型是需要大量时间和算力的,我们通常采用加载预训练权重的方法,而我们往往面临以下几种情况:
在这里插入图片描述

未修改网络,A与B一致

很简单,直接.load_state_dict()

net = ANet(num_classses = 5,init_weights=True)
net.to(device)
net.load_state_dict(torch.load('weight/B_weight.pth'))

修改了网络,A与B不一致

[pytorch官方文档](Search — PyTorch master documentation):

load_state_dict(state_dict, strict=True)

将 state_dict 中的参数和缓冲区复制到此模块及其后代中。如果 strict 为 True,则 state_dict 的键必须与该模块的 state_dict() 函数返回的键完全匹配。

state_dict是包含参数和持久缓冲区的字典,可以看出 strict默认为True,所以默认状态下是严格要求state_dict中的key与torch.nn.Module.state_dict返回的key完全一致的

load_state_dict()函数有两个返回值:

missing_keys 是包含缺失键的 str 列表
unexpected_keys 是包含意外键的 str 列表

方法一:

将strict改为false,加载键值相同的部分。

model = NET2()
state_dict = model.state_dict()
weights = torch.load(weights_path)['model_state_dict']	#读取预训练模型权重
model.load_state_dict(weights, strict=False)	#strict

但是此时还存在一种情况:键值相同但shape不同,故应进行if…in…的判断:

ANet = torch.load('ANet.pt')  # 加载预训练权重模型(.pt文件)参数
#现成的模型的话,如resnet50 = models.resnet50(pretrained=True)
#采用:pretrained_dict = resnet50().state_dict()  
model = Model() # 创建模型
model_dict = model.state_dict() # 得到模型的参数字典# 判断预训练模型中网络的模块是否修改后的网络中也存在,并且shape相同,如果相同则取出
pretrained_dict = {k: v for k, v in ANet.items() if k in model_dict and (v.shape == model_dict[k].shape)}# 更新修改之后的 model_dict
model_dict.update(pretrained_dict)# 加载我们真正需要的 state_dict
model.load_state_dict(model_dict, strict=False)

方法二:

1.将权重导入原模型,之后在加载后的原模型基础上进行修改。
2.修改权重文件参数,再进行导入
适用于改动不大的模型

http://www.yayakq.cn/news/448765/

相关文章:

  • 网站开发交接清单大学城网站开发公司电话
  • 网站做区块链然后往里面投钱下载安卓版app免费下载
  • 做响应式网站哪家公司好域名网站建设流程
  • 做网站建站成都工业学院文献检索在哪个网站做
  • 企业网站模块建设流程网址大全官方免费下载安装
  • 海口市建设工程质量安全监督站网站网站建设中最重要的是什么
  • 上海网站开发制作公司个人建设图片分享网站
  • 网站开发保密合同.net网站开发实训报告
  • 万网做网站如何下载模板地区汽车修理网站建设
  • 苏州建设局统计网站wordpress 用户
  • 编程 给别人做网站wordpress忘记后台账号
  • 苏州游玩攻略必去的地方seo与sem的区别和联系
  • 镇江网站优化公司工作室菏泽建设企业网站
  • 做外贸用什么网站好博罗网站设计
  • 考试微网站开发网站建设分工说明
  • 电子商务网站的主题及建设目标企业标准型手机网站
  • 做推文封面图网站ps做网站画布大小是多少
  • 篇高端网站愿建设网页设计网站多少钱
  • 长春建站模板厂家架设网站服务器
  • 深圳网站建设排名分销系统开发公司
  • 电影点播网站开发费用网站换网址了怎么找
  • cms高端建站北京那个网站建设公司比较好
  • 泰兴市建设局网站免费全部游戏大全
  • 网站备案 免费华为网站建设建议
  • 电商网站开发选题依据怎样做电商入手
  • 建设网站什么软件好php学生管理系统源码免费
  • 做cra需要关注的网站邢台网站改版怎么开发
  • 济南网站建设wordpress评论怎么去掉网址
  • 企业网站 app深圳的网站建设公司有哪些
  • 怎么建设英文网站网络规划设计师第二版pdf