阅读了论文 Selective Kernel Networks

生成具有各种内核大小的多个路径，这些大小对应于神经元的不同感受野大小。组合并汇总来自多个路径的信息，并获得对应权重，最后再根据权重聚合大小不同的内核的特征图。

1.将 uafm 修改为使用空间和通道注意力同时使用的方法。
2.将 uafm 修改为使用两个 sigmoid 得到针对高层和底层的注意力权重。
3.在 uafm 中借鉴SKnet 中使用softmax 融合多个特征图方法。
4.在fast-reid中使用参考 SKnet 修改的代码。

VeRi Rank-1 Rank-5 Rank-10 mAP Epoch
1 - - - 77.8 140
2 - - - 79.0 144
3 - - - 79.2 150
4 77.2 150
原uafm在fast-reid 78.91 150

问题分析

• 在参考 SKnet 修改代码时遇到错误
  RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: [torch.cuda.FloatTensor [16, 2048, 14, 14]], which is output 0 of CudnnConvolutionBackward, is at version 1; expected version 0 instead
  通过排查代码错误解决
• 在 PVASF 上进行的几个实验都调低了 batchsize，为了排除这个因素的影响，第4个实验在 fast-reid 上进行，以此验证修改后的模型有效性。

下一步

目前首先是验证使用 SKnet 中融合特征的方法是否有效
如果有效，进一步考虑使其在不增大显存的前提下应用在 PVASFF 上。
如果无效，继续参考老师另外几点注意力融合的想法进行下一步研究和实验。