pytorch 记录优化器

torch.optim在使用的前得先实例化

为了构建一个optimizer,需要先给它一个包含了需要优化的参数(必须是Variable对象,比如model.parameter()就是常见的这个对象),

举例

opter = optim.SGD(medel.parameters(),lr=0.01,momentum=0.9)
在一些情况下,我们可能会需要对不同的参数进行不同程度的更新,这种时候可以通过dict对不同的参数进行分别指定:
optim.SGD([ {'params':model.base.parameter()} {'params':model.classifier.parameters(),lr:0.001} ],lr=0.01,momentum=0.9)
这样就能对特定参数的更新进行单独的设置。

posted @ 2022-05-05 17:38  姬桑day1  阅读(58)  评论(0)    收藏  举报