• 下班后只想安静的听一会歌

pytorch 模型的train模式与eval模式实例

python quanshui 2年前 (2021-04-30) 138次浏览 已收录 0个评论

pytorch 模型的train模式与eval模式实例

今天小编就为大家分享一篇pytorch 模型的train模式与eval模式实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

原因

对于一些含有batch normalization或者是Dropout层的模型来说,训练时的froward和验证时的forward有计算上是不同的,因此在前向传递过程中需要指定模型是在训练还是在验证。

源代码

  [docs] def train(self, mode=True):    r"""Sets the module in training mode.      This has any effect only on certain modules. See documentations of    particular modules for details of their behaviors in training/evaluation    mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,    etc.      Returns:     Module: self    """    self.training = mode    for module in self.children():     module.train(mode)    return self    [docs] def eval(self):    r"""Sets the module in evaluation mode.      This has any effect only on certain modules. See documentations of    particular modules for details of their behaviors in training/evaluation    mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,    etc.    """    #该方法调用了nn.train()方法,把参数默认值改为false. 增加聚合性    return self.train(False)

 

在使用含有BN层,dropout层的神经网路来说,必须要区分训练验证

以上这篇pytorch 模型的train模式与eval模式实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持本站。

喜欢 (9)
[]
分享 (0)
发表我的评论
取消评论

表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址