将pytorch的网络等转移到cuda
神经网络一般用GPU来跑,我们的神经网络框架一般也都安装的GPU版本,本文就简单记录一下GPU使用的编写。
GPU的设置不在model,而是在Train的初始化上。
第一步是查看是否可以使用GPU
self.GPU_IN_USE = torch.cuda.is_available()
就是返回这个可不可以用GPU的函数,当你的pytorch是cpu版本的时候,他就会返回False。
然后是:
self.device = torch.device('cuda' if self.GPU_IN_USE else 'cpu')
torch.device是代表将torch.tensor分配到哪个设备的函数
接着是,我看到了一篇文章,原来就是将网络啊、数据啊、随机种子啊、损失函数啊、等等等等直接转移到CUDA上就好了!
于是下面就好理解多了:
转移模型:
self.model = Net(num_channels=1, upscale_factor=self.upscale_factor, base_channel=64, num_residuals=4).to(self.device)
设置cuda的随机种子:
torch.cuda.manual_seed(self.seed)
转移损失函数:
self.criterion.cuda()
转移数据:
data, target = data.to(self.device), target.to(self.device)
pytorch 网络定义参数的后面无法加.cuda()
pytorch定义网络__init__()的时候,参数不能加“cuda()", 不然参数不包含在state_dict()中,比如下面这种写法是错误的
self.W1 = nn.Parameter(torch.FloatTensor(3,3), requires_grad=True).cuda()
应该去掉".cuda()"
self.W1 = nn.Parameter(torch.FloatTensor(3,3), requires_grad=True)
(资源库 www.zyku.net)
原文链接:https://blog.csdn.net/weixin_42128941/article/details/103048866
上一篇:Django集成富文本编辑器summernote的实现步骤
栏 目:Python教程
下一篇:python 如何在list中找Topk的数值和索引
本文标题:将pytorch的网络等转移到cuda
本文地址:https://www.zyku.net/python/9867.html
您可能感兴趣的文章
- 02-11pytorch交叉熵损失函数的weight参数的使用
- 02-11pytorch 如何把图像数据集进行划分成train,test和val
- 02-11pytorch 6 batch_train 批训练操作
- 02-11pytorch固定BN层参数的操作
- 02-11pytorch 如何实现HWC转CHW
- 02-10pytorch 使用半精度模型部署的操作
- 02-10pytorch 中nn.Dropout的使用说明
- 02-10浅谈pytorch中的dropout的概率p
- 02-10基于PyTorch实现一个简单的CNN图像分类器
- 02-10pytorch中.to(device) 和.cuda()的区别说明
- 02-10Pytorch 中net.train 和 net.eval的使用说明
- 02-10Pytorch 如何训练网络时调整学习率
- 02-10pytorch model.cuda()花费时间很长的解决
- 02-10Pytorch GPU内存占用很高,但是利用率很低如何解决
- 02-09PyTorch 如何自动计算梯度
- 02-09pytorch 实现计算 kl散度 F.kl_div()
- 02-09pytorch中LN(LayerNorm)及Relu和其变相的输出操作
- 02-09pytorch 实现多个Dataloader同时训练
- 02-09解决pytorch trainloader遇到的多进程问题
- 02-09Pytorch使用shuffle打乱数据的操作
最近更新
阅读排行
猜你喜欢
- 07-10帝国cms电影播放页完美调用上一集和下
- 01-13智能AI助手-智能AI助手应用软件功能介
- 09-26全民k歌歌曲如何保存本地
- 01-11吉林行公交-吉林行公交应用软件功能介
- 10-01支付宝上线国庆出行防疫包专区入口介
- 09-04火车头采集器计划任务设置时间间隔无
- 10-29iPhone同播共享设置方法介绍
- 09-23apple watch如何开启电话铃声
- 11-29苹果手机怎样关闭icloud云备份
- 09-15帝国CMS7.5版用户发布信息统计升级,统