鱼一的博客 ◡̈

yuyi

知不可乎骤得，托遗响于悲风

网站页面

类目归类

标签搜索

搜索到 92 篇与的结果

Mac OS 运行程序出现 `zsh: segmentation fault`

Mac OS 运行程序出现 `zsh: segmentation fault`

在终端跑程序的时候报错zsh: segmentation fault python main.py --epochs 2 --mask_ratio 0.2在 Unix-like系统（包括macOS）中， OpenMP 库默认并行执行带有 #pragma omp parallel 的代码块，可能和 PyTorch 中 c 相关的源码有关。export KMP_DUPLICATE_LIB_OK=TRUE：这个环境变量告诉OpenMP忽略由于动态库加载时可能出现的重复库问题。在使用多个动态库时，如果这些库中包含了OpenMP的实现，可能会出现冲突。设置这个变量为TRUE可以防止OpenMP在初始化时因为检测到多个版本的OpenMP实现而报错。export OMP_NUM_THREADS=1：这个环境变量设置OpenMP在并行区域时使用的最大线程数。将其设置为1意味着即使代码中有并行指令，OpenMP也不会创建额外的线程，只会使用一个线程来执行任务。这通常用于调试并行程序，因为在单线程模式下，程序的行为更可预测，也更容易跟踪。当你在终端中执行这些命令时，它们仅对当前终端会话有效。一旦你...

2024-06-23

2024年06月23日

0 阅读

9 评论

时空时序预测 Frigate: Frugal Spatio-temporal Forecasting on Road Networks

时空时序预测 Frigate: Frugal Spatio-temporal Forecasting on Road Networks

标题道路交通网络的时空预测期刊名称和出版年份发表于 ACM KDD 2023 会议论文作者 Mridul Gupta，Sayan Ranu第一作者单位印度德里理工学院Yardi人工智能学院摘要在道路网络上建模时空过程是一项日益重要的任务。尽管在开发时空图神经网络（GNNs）方面取得了显著进展，但现有工作建立在三个对真实世界道路网络不切实际的假设上。首先，它们假设道路网络的每个节点都能被感知。实际上，由于预算限制或传感器故障，所有位置（节点）可能没有配备传感器。其次，它们假设所有安装的传感器都可用历史数据。由于传感器故障、通信过程中丢包等原因，这也是不现实的。最后，它们假设道路网络是静态的。由于道路封闭、新道路建设等原因，网络的连接性会发生变化。在这项工作中，我们开发了Frigate来解决所有这些缺点。Frigate 由一个时空 GNN 提供支持，该 GNN 将位置、拓扑和时间信息整合到丰富的归纳节点表示中。通过门控Lipschitz嵌入和LSTM的创新组合，实现了这种多样化信息的联合融合。我们证明了所提出的GNN架构在表达能力上比用于最先进算法的消息传递GNN更...

2024-06-15

2024年06月15日

0 阅读

6 评论

混合ANN-SNN架构：用于低功耗和低延迟的视觉感知 🚀

混合ANN-SNN架构：用于低功耗和低延迟的视觉感知 🚀

Asude Aydin, Mathias Gehrig, Daniel Gehrig, Davide Scaramuzza机器人与感知小组，苏黎世大学，瑞士摘要 📝脉冲神经网络（SNNs）通过异步和稀疏处理，为边缘设备带来低功耗和低延迟推理。然而，SNNs在生成与经典人工神经网络（ANNs）相媲美的预测时，依赖于长时间的瞬态状态。这些状态在长时间后才收敛，并在没有输入数据时迅速衰减，导致更高的延迟、功耗和较低的准确性。我们通过使用辅助ANN以低频率初始化SNN状态来解决这个问题。SNN使用该状态生成高时间分辨率的预测，直到下一次初始化阶段。因此，我们的混合ANN-SNN模型结合了两者的优点：由于ANN的存在，它不受长时间状态瞬态和状态衰减的影响；由于SNN的存在，它能生成高时间分辨率、低延迟和低功耗的预测。我们展示了对于基于事件的2D和3D人体姿态估计任务，我们的方法在与完全ANN对应物以相同的推理速率运行时，功耗降低了88%，性能仅下降了4%。此外，与SNN相比，我们的方法实现了74%的更低误差。代码可在此处获取。引言 📈近年的深度学习突破加速了计算机视觉任务的进展，但也带来了...

2024-05-28

2024年05月28日

0 阅读

5 评论

AI 快速生成学术论文的 Presentation

AI 快速生成学术论文的 Presentation

使用AI制作学术演示文稿首先，访问 Gamma.app。这是我们将使用的创建AI演示文稿的应用程序。上传论文 📄：如果你正在撰写一篇要提交到期刊的同行评审论文，你可以将其作为文件上传，它会根据你当前正在写的论文草稿生成自己的演示文稿。进入“导入文件”页面。这里是我目前正在处理的一篇论文示例。它有很多文本、表格和图表。上传并配置 ⚙️：上传文件后，Gamma AI会开始处理你的文件。你会看到“生成”、“压缩”和“保留”等设置。如果你有很多内容，可以选择“压缩”。生成幻灯片 📊：你可以选择“自由形式”，并将“每张卡片的最大文本量”设置为“简洁”，以便简洁明了的演示。输出包括AI图像，但它们可能不太相关，因此你可能需要稍后调整。选择一个你喜欢的主题并生成幻灯片。你会看到幻灯片实时生成。优化演示文稿 ✨：Gamma AI在结构化内容方面做得很好，但可能会遗漏一些实际论文中的元素，例如图表。你可以使用网络应用界面手动添加这些元素。将演示文稿导出到PowerPoint以进行进一步优化和自定义。使用ChatGPT创建叙述结构 📝：我更喜欢先使用ChatGPT创建一个稳健的叙述。我会访问Chat...

2024-05-28

2024年05月28日

0 阅读

8 评论

强化学习初体验

强化学习初体验

1. 什么是强化学习？强化学习是一种机器学习方法，强调通过与环境的交互来学习策略，从而在某种情境下最大化累积奖励。主要包括以下几个概念：智能体（Agent）：做出决策的实体。环境（Environment）：智能体与之交互的外界。状态（State, S）：环境在某一时刻的描述。动作（Action, A）：智能体在某一状态下可以采取的行为。奖励（Reward, R）：智能体在某一状态下采取某一动作后获得的反馈。策略（Policy, π）：智能体在各个状态下采取的动作规则。2. 强化学习的基本框架在强化学习中，智能体通过不断尝试和错误（Trial and Error），学习到一个最优策略来最大化其累积奖励。这个过程通常通过以下几个步骤实现：初始化策略。观测当前状态。选择一个动作并执行。接收奖励并观测新的状态。更新策略。3. 深度强化学习深度强化学习结合了深度学习和强化学习，Deep Reinforcement Learning, DRL）是一门结合了深度学习和强化学习的学科，使用深度神经网络来近似策略函数或价值函数，使得智能体能够在高维和复杂的环境中进行学习。基本概念和术语在深度强化学...

2024-05-26

2024年05月26日

0 阅读

280 评论

Ilya 推荐论文 30

Ilya 推荐论文 30

OpenAI 的前首席科学家 Ilya Sutskever 开出了一份论文清单，一共包含30篇论文。他说："如果你真正学会了所有这些，你就会知道当今 AI 的 90% 重要内容。""The Annotated Transformer" 📖: 提供了对 "Attention Is All You Need" 论文的详细解读和注释，帮助读者理解基于完全注意力机制的Transformer模型的复杂性，该模型旨在解决在处理长序列时RNN和LSTM的局限性。通过并行处理和有效的注意力机制，Transformer在训练速度和效果上都有显著提升。The Annotated Transformer"The First Law of Complexodynamics" 🌀: 讨论了物理系统中复杂性随时间变化的变量性。论文得出的结论是系统的“兴趣”或“复杂性”随时间呈现钟形曲线：起初简单，变得复杂，然后再次简化。复杂性达到最大值后会逐渐减少，与一直单调增加的熵形成对比。The First Law of Complexodynamics"The Unreasonable Effectiveness o...

2024-05-25

2024年05月25日

0 阅读

11 评论

科研成果2

科研成果2

论文标题： Multi-Branch Feature Learning Network via Global-Local Self-Distillation for Vehicle Re-Identification发表情况： IEEE Transactions on Vehicular Technology (SCI 中科院2区 Top期刊)下文主要关注于方法的介绍整体网络模型在本研究中，继续采用了广泛应用的ResNet网络家族，并选择ResNet50作为模型的骨干网络。该方法借鉴了当前最先进的车辆重识别技术，如UMTS、PPT和FastReID，对骨干网络进行了特定的配置优化。具体来说，移除了网络中的最后一个下采样层，并将最终卷积层的步长从2调整为1。这一调整显著增强了网络在保留细节空间信息方面的能力，为细粒度的车辆重识别任务提供了高分辨率的特征图，从而有助于提升识别性能。为了进一步促进全局与局部特征的学习，本研究采纳了一个部分共享架构的骨干网络。ResNet的四个阶段结构允许从简单到复杂逐步提取特征，其中前两个阶段着重于初级视觉特征如边缘和纹理的提取，而后两个阶段则专注...

2024-02-12

2024年02月12日

0 阅读

10 评论

科研成果1

科研成果1

论文标题： Global–Local Discriminative Representation Learning Network for Viewpoint-Aware Vehicle Re-Identification in Intelligent Transportation发表情况： IEEE Transactions on Instrumentation and Measurement (SCI 中科院2区 Top期刊)下文主要关注于方法的介绍整体网络模型如模型图所示，本研究引入了一个经过改良的ResNet50网络作为核心的主干网络，专注于从车辆图像中提取具有高度区分度的特征。这一改进的网络设计，特别强调对车辆中信息丰富、区分能力强的局部的关注，同时减少对那些区分信息有限的局部的依赖。这种方法有助于提高网络在车辆重识别任务中的表现，确保能够从复杂的视觉数据中提取出关键信息。进一步地，本研究提出了一个特征融合模块，旨在有效整合主干网络在第三阶段和第四阶段的输出。通过这种融合，能够增强网络对于重识别任务所需的信息的提取能力，从而生成更加丰富和细腻的特征表示。此外，本研究...

2024-02-02

2024年02月02日

0 阅读

562 评论

科研流水账81

科研流水账81

修改模型，复现了之前的图卷积加蒸馏的最好性能，保证进一步修改是在最好性能上的。修改之前损失加和的方式。下载原UFDN代码，对模型和损失修改后复现最好性能。尝试可视化局部特征的注意力。只使用图卷积图卷积＋蒸馏修改损失加和方式去掉了基于损失全局局部CE损失对比的自适应权重局部与全局分类软标签蒸馏的KL散度损失和局部与真实值CE损失之间权重从0.5：0.5改回1:1去掉蒸馏之后的实验结果问题分析在进行热力图可视化绘图时的问题由于按通道划分后直接使用了图卷积，由于图卷积计算需要，局部特征的张量变形为三个维度，空间上的宽高被取消了。因此之前的可视化方法没法直接使用。经过网上查看资料修改代码后实现了对局部特征的可视化，但目前还需要继续完善。下一步首先对局部进行可视化，根据可视化结果好坏决定是否对divers损失进一步修改。修改代码为使其在其它数据集上运行进行消融实验。

2023-12-30

2023年12月30日

0 阅读

0 评论

科研流水账80

科研流水账80

论文阅读Diversified branch fusion for self-knowledge distillation参考论文中的动态logits融合的方案对全局局部蒸馏进行改造。使用推理时cat全局局部的方式融合全局局部特征为一支加在训练阶段。对图卷积中图节点构成边的过程进行实验，其原始为保留所有边。将图卷积直接加到之前性能最好的模型里。使用论文logits融合的方法同时使用标签对融合后的logits分类进行指导Cat全局和局部为一支加入训练图节点生成边矩阵时阈值为0.5-0.6使用原始图节点生成矩阵问题分析多Logits融合的方法第一次实验时忘记使用标签的对融合后logits的分类进行指导。第二次实验加上指导后性能反而更差了。这可能是损失权重没有平衡好的原因。下一步一方面继续对多logits融合进行实验，因为目前实验结果来看这个对性能可能更有价值。可以考虑将之前自己设计的CE损失权重加上去。另一方面尝试复现单独使用图卷积后达到82.0左右的性能。

2023-12-22

2023年12月22日

0 阅读

0 评论

yuyi

知不可乎骤得，托遗响于悲风

127 文章数

12,417 评论量

More Info for me 📱

人生倒计时

今日已经过去小时

这周已经过去天

本月已经过去天

今年已经过去个月