yuyi
知不可乎骤得，托遗响于悲风
科研流水账81
- 修改模型，复现了之前的图卷积加蒸馏的最好性能，保证进一步修改是在最好性能上的。
- 修改之前损失加和的方式。
- 下载原UFDN代码，对模型和损失修改后复现最好性能。
- 尝试可视化局部特征的注意力。
只使用图卷积
图卷积＋蒸馏
修改损失加和方式
去掉了基于损失全局局部CE损失对比的自适应权重
局部与全局分类软标签蒸馏的KL散度损失和局部与真实值CE损失之间权重从0.5：0.5改回1:1
去掉蒸馏之后的实验结果
问题分析
- 在进行热力图可视化绘图时的问题
由于按通道划分后直接使用了图卷积，由于图卷积计算需要，局部特征的张量变形为三个维度，空间上的宽高被取消了。因此之前的可视化方法没法直接使用。
经过网上查看资料修改代码后实现了对局部特征的可视化，但目前还需要继续完善。
下一步
- 首先对局部进行可视化，根据可视化结果好坏决定是否对divers损失进一步修改。
- 修改代码为使其在其它数据集上运行进行消融实验。
