这是一个创建于 1133 天前的主题，其中的信息可能已经有所发展或是发生改变。
继承 nn.Module 自定义网络，如果在构造函数里多加一个**没有使用到**的 Linear 层，为什么会对最终的模型精度产生影响呢？？
没用过的网络层次也会参与反向传播啥的这些吗
有人遇到过同样问题吗
没用过的网络层次也会参与反向传播啥的这些吗
有人遇到过同样问题吗
 |
1
hamhamham 2021-11-16 02:00:35 +08:00
1. 不会对最终模型精度有影响
2. 我的理解：没用到的层不是计算图的一部分。就算你把他的参数加入 optimizer 里面，也会因为梯度全部为 0 无法更新参数，相当于不参加反向传播。 |
 |
2
Xs0ul 2021-11-16 04:23:46 +08:00
目测是新加的层影响了随机的初始化
|
 |
3
flyaway 2021-11-16 05:01:00 +08:00
1 楼+1 没参与到 computation graph 不应该有影响
|
Select Language