鱼一的博客 ◡̈

yuyi

知不可乎骤得，托遗响于悲风

网站页面

类目归类

标签搜索

搜索到 92 篇与的结果

科研流水账40

科研流水账40

🔊 论文方法部分快写完了代码工作：修改了pven项目代码，将原局部特征重要性融合模块中两步降维的权重矩阵修改。修改pven项目的代码，替换了 ResNet50_ibn作为骨干网络。问题分析将权重矩阵压缩维度从 2048 -- 1024 -- 1 调整到 2048 -- 256 -- 1后复现出之气最好性能。初步替换骨干网络为 ResNet50_ibn 后，性能没有明显提升，仍是83左右，查看训练日志，感觉可以调整下学习率曲线。后续性能上升到 83.5.使用替换后的学习率曲线训练以ResNet50 作为骨干网络的模型，发现Rank-1有明细提升。下一步做消融实验，记录模型数据。完成方法部分后，继续写实验部分的论文。

2023-03-19

2023年03月19日

0 阅读

0 评论

科研流水账39

科研流水账39

开始写论文啦！📢修改pven项目的代码，实现面积注意力乘特征后再对特征求特征注意力。修改了pven项目代码，将原本的多步下降学习率调整为余弦退火。修改pven代码，不使用面积注意力参与局部特征的loss和距离计算。目前提出的局部注意力融合方法达到了最好性能，保存了模型。但暂时没有复现出来。下一步继续做实验，优化模型。写论文，目前期望每天能写五百字左右。

2023-03-12

2023年03月12日

0 阅读

0 评论

科研流水账38

科研流水账38

阅读了 Channel Augmented Joint Learning for Visible-Infrared Recognition论文主要有下面两个创新点。提出了一种针对可见红外识别图片的通道交换增强，可以整合到现有预处理方法的增强操作中。设计了一个通道混合学习方案来同时处理类内和不同模态之间的变化。辆重识别任务。并通过联合学习策略优化了通道增强图像。代码工作：修改之前pven项目的代码，实现多机分布式训练。修改pven 局部特征部分的代码，实现四个分支合一。下载调试这周阅读论文的代码。问题分析多机分布总卡在使用多机分布式初始化模型上，使用之前一些简单样例模型结构可以正常运行，替换成pven模型后就会一直卡住。于是就觉得是模型有问题，一点点把模型拆解找错误原因，发现有时候就改一下卷积核大小，就可能导致卡住的问题。感觉不能理解这种情况，然后就去源码里面想搞清楚这里的模型初始化到底是卡在了那一步。最后发现卡在了self.reducer = dist.Reducer(...)的前面，这里Reducer是用来实现反向传播梯度同步用的，里面需要传入模型的参数作为变量之一。所以就觉得...

2023-03-05

2023年03月05日

0 阅读

0 评论

科研流水账37

科研流水账37

阅读了论文 Multi-Spectral Vehicle Re-Identification: A Challenge论文为多模态重识别构建了两个数据集。RGBN300，其中捕获300个车的50125张RGB及近红外摄像图片。RGBNT100，其中捕获了100个车的17250张RGB、近红外、热红外摄像图片。同时设计了一个异质协作感知的多光谱卷积网络模型来完成在多光谱成像条件下的车辆重识别任务。代码工作：在vhicleID数据集上跑了模型，效果还是差点。在调试multi-modal-vehicle-reid的代码，分别在两个其两个数据集上训练。学习分布式训练的实现方法，尝试修改之前pven项目的代码。问题分析多模态的代码最开始在RGBNT100上跑，效果差3、4个点，后面仔细根据论文方法，对比代码，发现代码没有实现三种光谱的损失函数。使用相同版本的不同cudatoolkit，多机分布会报错。修改为相同的 cudatoolkit 版本即可。在pven上使用多机分布式时，文件名重复的问题。单个机器会运行两遍训练前相关配置的流程，因此写入记录文件时，下面这行代码运行了两次。 writ...

2023-02-26

2023年02月26日

0 阅读

0 评论

科研流水账36

科研流水账36

阅读了论文 Stage-Aware Feature Alignment Network for Real-Time Semantic Segmentation of Street Scenes论文主要有两个创新点。提出了 FEB，丰富Encoder阶段得到的特征图的空间和上下文信息，同时也有利于缓解街景语义分割多尺度目标的语义不对齐的问题。提出了SFA来聚集和对齐不同层级的特征图，空间细节和上下文信息得到有效的利用，提升了小目标物物体的语义分割性能。阅读了论文 Revisiting the Loss Weight Adjustment in Object Detection论文首次深入探索了损失权重在目标检测中的影响。通过大量实验和理论分析总结了关于优化损失权重的重要结论。根据实验结论，设计了自适应权重调节策略。代码工作：在6006 上对fast-reid 中的resnet50后两个阶段中插入 inception的高低频处理模块基础上使用uafm，使得性能比单独使用uafm提升了近1个多点。问题分析上周在PVEN上，不使用特征注意力情况下得到了82.46的实验结果，后面发现加了特...

2023-02-19

2023年02月19日

0 阅读

0 评论

科研流水账35

科研流水账35

阅读了论文 Squeeze-and-Excitation Networks论文利用的是通道间的相关性，先用GAP屏蔽掉空间上的分布信息能让后续计算更加准确。先将空间上所有点的信息都平均成了一个值，然后使用两个全连接利用通道相关性训练最终的通道重要性。代码工作：在6002和6005上同时对 pven进行实验。1.调高num_instance和batchsize，在veri776上仅对pven使用uafm，将性能调到82.462.直接使用之前的特征面积融合机制代替pven的面积注意力机制，性能下降到80。3.对修改后的仅用面积注意力机制的pven实验，性能达到82.2。4.对修改代码后的pven用特征面积融合注意力机制，性能下降到81.5.使用原本胡师兄的特征面积注意力机制，性能依然比只使用uafm和面积注意力机制低。6.修改特征注意力和面积注意力的权重占比，还在实验中。在6006 上对fast-reid 中的resnet50不同阶段中插入 inception的高低频处理模块1.在stage3和stage4后使用时，性能比只在stage4后使用更高。2.在stage2和stage3和...

2023-02-12

2023年02月12日

0 阅读

0 评论

科研流水账34

科研流水账34

阅读了论文 Inception Transformer论文结合 Inception 和八度卷积的思想，设计出以通道拆分机制来并行处理高频和低频信息的模块。代码工作：在6002上复现PVEN效果。在6005上跑1600 测试集的Vehicle ID。在fast-reid 上使用Inception Transformer设计基于拆分通道并行处理的特征融合在 fast-reid上测试 Inception transformer中的拆分通道并行处理高低频的模块，比只用resnet50涨了3个多点[36mDatasetRank-1Rank-5Rank-10mAPmINPmetric VeRi94.4696.8497.9175.8243.2585.14[0m问题分析PVEN一开始在vehicleID复现不出来结果，通过github提供的训练好的模型排除了模型部分代码问题，接着开始训练的代码中开始找问题，最终发现是没有使用resnet50在imagenet的预训练权重。最后在veri776上训练得到了接近原论文的结果。自己设计的基于拆分通道并行处理的特征融合效果很差，感觉原因是模型设计的不够合...

2023-01-20

2023年01月20日

0 阅读

0 评论

科研流水账82

科研流水账82

修改模型代码，添加基于标准差的损失自适应。修损失自适应函数的代码，将其每轮训练调整的损失大小控制在一个较小的范围。修改损失的权重，让局部的交叉熵和蒸馏损失权重平衡。修改可视化局部特征的代码。实现T-sne图展示baseline和使用我们模型后的特征效果图。实现T-sne图展示使用divers损失前后的局部特征分布情况。问题分析在实验过程中发现，基于标准差的损失自适应不适应我们模型的情况因为局部交叉熵损失和蒸馏损失的量级不一样，交叉熵损失大概2左右，而蒸馏损失0.018左右。因此实验过程中，交叉熵的权重会很快被调的很小。经过很多尝试，还是没有找到可视化局部热力图的方法画t-sne图的时候，有的类别看起来很近经过代码设计，实现可筛选的类别展示。下一步-首先得确定最好的效果模型，然后接着需要考虑加divers前后损失的变化是否理想。-热力图暂时还没解决。

2023-01-10

2023年01月10日

0 阅读

0 评论

科研流水账33

科研流水账33

在6005和6002 两台服务器上评估之前在vehicleID训练的模型。在vehicleID数据集中训练PVEN原代码。安装laTex环境，整理创新点问题分析发现PVEN原代码的vehicleID评估部分错误。去github上查看，发现已经被作者修正了，不过还有一处代码的变量赋值有误。经过与胡师兄修改的代码对比，发现代码逻辑一致，没有任何问题。首先从6002的实验结果可以看出，不同配置文件训练出的模型最佳结果基本上都是 mAP 89.3。 6005上最佳结果目前是mAP 90.7，也就是说定好的模型是比原模型有提升的。因此目前主要问题还是考虑复现PVEN的性能。从实验结果来看，配置文件的影响并没有很大，考虑性能无法复现可能是由于我修改代码的原因，所以想尝试直接去训练PVEN来复现效果。下一步计划继续调试PVEN代码，同时筹备论文的方法部分写作

2023-01-08

2023年01月08日

0 阅读

0 评论

科研流水账32

科研流水账32

1.解决了上周关于 vehicleID 无法评估的问题。2.在6005 上vehicleID 训练得到效果不好。3.在6002 上进行 vehicleID 数据集的训练，尝试复现性能。问题分析在vehicleID 数据集训练结果不好首先排除了评估代码的问题，使用以前保存的veri776模型，仍能得到之前相应的结果。然后对比 pven 项目的配置文件，发现其在 vehicleID 上使用的 batchsize 是256。因此，第一感觉就是batchsize的原因。后面，在对比了pvasf 的性能，发现更差，因此感觉可能是其他方面的问题。于是，尝试先使用pvasf原本的代码复现出结果。下一步计划目前正在进行两个实验尝试复现原本pvasf的效果，一个使用的配置和原本pven的一样，只调整了batchsize为72；另一个使用的配置文件是pvasf在veri776上最好效果的配置文件，只调整了学习率和local-focals损失函数的参数。下一步是等两个结果出来，如果能复现出来，再选择最好的配置文件去跑其他实验。

2023-01-02

2023年01月02日

0 阅读

0 评论

yuyi

知不可乎骤得，托遗响于悲风

126 文章数

6 评论量

More Info for me 📱

人生倒计时

今日已经过去小时

这周已经过去天

本月已经过去天

今年已经过去个月