当前位置： 首页 > news >正文

即插即用篇 | YOLOv8 引入单头视觉Transformer模块 | CVPR 2024

news 来源：原创 2024/9/27 18:14:05

本改进已同步到YOLO-Magic框架！

在这里插入图片描述在这里插入图片描述

最近，高效的视觉Transformer在资源受限的设备上以低延迟表现出了出色的性能。传统上，它们在宏观层面上采用4×4的Patch嵌入和四阶段结构，而在微观层面上使用多头配置的复杂注意力机制。本文旨在通过内存高效的方式解决各个设计层面的计算冗余问题。我们发现，使用更大步幅的Patchify起始层不仅可以降低内存访问成本，还能够通过在早期阶段利用减少空间冗余的Token表示来实现具有竞争力的性能。此外，我们的初步分析表明，早期阶段的注意力层可以用卷积替代，而后期阶段的多个注意力头在计算上是冗余的。为了解决这一问题，我们引入了一个单头注意力模块，它从根本上防止了注意力头的冗余，同时通过并行结合全局和局部信息提升了准确性。

基于我们的解决方案，我们提出了SHViT，即单头视觉Transformer，它在速度与准确性的平衡上达到了当前的最佳水平。例如，在ImageNet-1k

相关文章：

  • Spring Boot入门指南
  • 鸿蒙OS开发之动画相关示例分享, 关于弹出倒计时动画的实战案例源码分享
  • AI大模型教程 Prompt提示词工程 AI原生应用开发零基础入门到实战【2024超细超全，建议收藏】
  • Maven重点学习笔记(包入门 2万字)
  • 搜索引擎onesearch3实现解释和升级到Elasticsearch v8系列(二)-索引
  • 软考中级网络工程师选择题
  • 华为OD机试真题------分糖果
  • Docker配置代理解决pull超时问题
  • 大数据-146 Apache Kudu 安装运行 Dockerfile 模拟集群 启动测试
  • PSS-sdy_opengl_sdd
  • 【机器学习(九)】分类和回归任务-多层感知机(Multilayer Perceptron,MLP)算法-Sentosa_DSML社区版
  • 低代码革命：加速云原生时代的端到端产品创新
  • 使用Hutool-poi封装Apache POI进行Excel的上传与下载
  • 将图片资源保存到服务器的盘符中
  • FGPA实验——触摸按键
  • Google 是如何开发 Web 框架的
  • Cookie 在前端中的实践
  • exports和module.exports
  • nginx（二）：进阶配置介绍--rewrite用法，压缩，https虚拟主机等
  • npx命令介绍
  • Objective-C 中关联引用的概念
  • supervisor 永不挂掉的进程 安装以及使用
  • Windows Containers 大冒险: 容器网络
  • 百度地图API标注+时间轴组件
  • 从伪并行的 Python 多线程说起
  • 大型网站性能监测、分析与优化常见问题QA
  • 观察者模式实现非直接耦合
  • 看域名解析域名安全对SEO的影响
  • 浅谈JavaScript的面向对象和它的封装、继承、多态
  • ​Java并发新构件之Exchanger
  • ​如何使用ArcGIS Pro制作渐变河流效果
  • （12）Linux 常见的三种进程状态
  • (阿里云万网)-域名注册购买实名流程
  • （二）windows配置JDK环境
  • （六）c52学习之旅-独立按键
  • （三）Kafka 监控之 Streams 监控（Streams Monitoring）和其他
  • （四）JPA - JQPL 实现增删改查
  • （一）Dubbo快速入门、介绍、使用
  • .bat批处理（九）：替换带有等号=的字符串的子串
  • .gitignore文件—git忽略文件
  • .Net CF下精确的计时器
  • .NET CORE 3.1 集成JWT鉴权和授权2
  • @GlobalLock注解作用与原理解析
  • @Import注解详解
  • @TableLogic注解说明，以及对增删改查的影响
  • [ C++ ] STL---string类的使用指南
  • [ vulhub漏洞复现篇 ] AppWeb认证绕过漏洞（CVE-2018-8715）
  • [AI资讯·0612] AI测试高考物理题，最高准确率100%，OpenAI与苹果合作，将ChatGPT融入系统中，大模型在物理领域应用潜力显现
  • [AutoSAR系列] 1.3 AutoSar 架构
  • [c++] 单例模式 + cyberrt TimingWheel 单例分析
  • [C++提高编程]（三）：STL初识
  • [CISCN2019 华北赛区 Day1 Web2]ikun
  • [DevEpxress]GridControl 显示Gif动画
  • [DM复习]Apriori算法-国会投票记录关联规则挖掘（上）
  • [Docker]十.Docker Swarm讲解