pytorch 中nn.Dropout的使用说明
看代码吧~
Class USeDropout(nn.Module):
def __init__(self):
super(DropoutFC, self).__init__()
self.fc = nn.Linear(100,20)
self.dropout = nn.Dropout(p=0.5)
def forward(self, input):
out = self.fc(input)
out = self.dropout(out)
return out
Net = USeDropout()
Net.train()
示例代码如上,直接调用nn.Dropout即可,但是注意在调用时要将模型参数传入。
补充:Pytorch的nn.Dropout运行稳定性测试
结论:
Pytorch的nn.Dropout在每次被调用时dropout掉的参数都不一样,即使是同一次forward也不同。
如果模型里多次使用的dropout的dropout rate大小相同,用同一个dropout层即可。
如代码所示:
import torch
import torch.nn as nn
class MyModel(nn.Module):
def __init__(self):
super(MyModel, self).__init__()
self.dropout_1 = nn.Dropout(0.5)
self.dropout_2 = nn.Dropout(0.5)
def forward(self, input):
# print(input)
drop_1 = self.dropout_1(input)
print(drop_1)
drop_1 = self.dropout_1(input)
print(drop_1)
drop_2 = self.dropout_2(input)
print(drop_2)
if __name__ == '__main__':
i = torch.rand((5, 5))
m = MyModel()
m.forward(i)
结果如下:
*\python.exe */model.py tensor([[0.0000, 0.0914, 0.0000, 1.4095, 0.0000], [0.0000, 0.0000, 0.1726, 1.3800, 0.0000], [1.7651, 0.0000, 0.0000, 0.9421, 1.5603], [1.0510, 1.7290, 0.0000, 0.0000, 0.8565], [0.0000, 0.0000, 0.0000, 0.0000, 0.0000]]) tensor([[0.0000, 0.0000, 0.4722, 1.4095, 0.0000], [0.0416, 0.0000, 0.1726, 1.3800, 1.3193], [0.0000, 0.3401, 0.6550, 0.0000, 0.0000], [1.0510, 1.7290, 1.5515, 0.0000, 0.0000], [0.6388, 0.0000, 0.0000, 1.0122, 0.0000]]) tensor([[0.0000, 0.0000, 0.4722, 0.0000, 1.2689], [0.0416, 0.0000, 0.0000, 1.3800, 0.0000], [0.0000, 0.0000, 0.6550, 0.0000, 1.5603], [0.0000, 0.0000, 1.5515, 1.4596, 0.0000], [0.0000, 0.0000, 0.0000, 0.0000, 0.0000]])
Process finished with exit code 0
(资源库 www.zyku.net)
原文链接:https://blog.csdn.net/qq_38603174/article/details/110631064
您可能感兴趣的文章
- 02-08pytorch 实现在测试的时候启用dropout
- 10-11万能小组件关闭自动续费教程分享
- 12-10荣耀畅玩20如何截取全屏
- 04-13魅族18Aicy识屏设置教程
- 07-05Linux tftp命令
- 01-11云上郧阳客户端-云上郧阳客户端应用软
- 09-19华为p30pro怎么屏幕截图
- 01-09财上学-财上学应用软件功能介绍
- 02-11vivoy52s调整字体大小流程
- 03-29红米k40开发者模式退出教程
- 12-25侯马生活-侯马生活应用软件功能介绍
- 01-12Crop Video Editor-Crop Video Editor
- 09-19小米wifi放大器连接步骤介绍
- 01-12围棋教学-围棋教学应用软件功能介绍
- 01-11育财师通-育财师通应用软件功能介绍
- 09-24哔哩哔哩成就勋章在哪里查看
- 10-14苹果手机怎么设置专注模式
- 11-26小米10s怎么取消按键声
- 12-28骨医生-骨医生应用软件功能介绍
- 01-12全全快速清理大师-全全快速清理大师应
最近更新
阅读排行
猜你喜欢
- 12-25雅点-雅点应用软件功能介绍
- 04-15小米11pro开启超级微距相机教程
- 02-11OPPOReno5Pro私密保险箱功能开启方法
- 01-12道简小组件-道简小组件应用软件功能介
- 02-10华为手机关闭安全输入键盘教程
- 04-01华为手机智慧多窗应用栏开启方法
- 07-10帝国cms会员发布相关信息列表的调用
- 12-21iPhone13还原网络方法介绍
- 03-21oppofindx3pro取消锁屏杂志教程
- 01-13心情树屋-心情树屋应用软件功能介绍