TypechoJoeTheme

鱼一的博客 ◡̈

yuyi

知不可乎骤得,托遗响于悲风
网站页面
标签搜索
文章目录

科学流水账46

论文实验已经做完了,听我导安排,驾驶员意图识别比较好出成果。
  • 在老师指导下完成论文的写作和修改(文字、图和表)。
  • 修改驾驶员意图识别的代码。

全局:
Epoch 11, duration: 336 s, loss: 0.0466, acc: 98.5607
Accuracy of the network on the test images: 95 %
全局+局部(使用Spatial diversity loss划分):
running_loss: 121.2444, running_correct: 12612.0000, loss_he: 0.04133, loss_ce: 0.1315, loss_ce_local: 0.37921
Epoch 8, duration: 337 s, loss: 0.2986, acc: 388.3005
Accuracy of the network on the test images: 95 %

问题分析

  • 通过计算离散随机变量的熵来设计损失函数
    1.直接使用会出现问题,训练过程中最终的权重矩阵会变成 0 和 1组成的
    通过观察权重矩阵元素值的变化,发现随着训练,一部分值会趋于像1.54e-20这类值一样很小,一部分值会趋于1,可能最终精度超过了python的限制,最后得到全由0和1组成的张量。此时,使用熵计算公式会报错,因为log函数不能计算为0的值。
  • 通过Spatial diversity loss损失函数划分局部
    使按论文公式实现后,发现损失降的太快,直接降到了0。参考了GitHub上该损失函数的代码实现后仍未解决问题。最后通过添加对张量进行归一化和激活函数解决了这个问题。等Spatial diversity loss损失函数实验跑完后,考虑是否能用此方法解决计算随机变量熵过程中的问题。
赞(0)
版权属于:

鱼一的博客 ◡̈

本文链接:

https://yuyi.monster/archives/89/(转载时请注明本文出处及文章链接)

评论 (0)

More Info for me 📱

IP信息

人生倒计时

今日已经过去小时
这周已经过去
本月已经过去
今年已经过去个月