[MOT Challenge]官方生成多目标跟踪算法性能评价指标结果,解决test数据集没有gt文件和官网注册问题

这篇具有很好参考价值的文章主要介绍了[MOT Challenge]官方生成多目标跟踪算法性能评价指标结果,解决test数据集没有gt文件和官网注册问题。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。


前言

最近在做一个多目标跟踪相关项目,搞过多目标跟踪的都知道MOT Challenge这个benchmark数据集,其包含MOT15,MOT16等多个数据集,每个数据集又可以划分为test和train两类。

但是,官方提供的test数据集是不包含gt.txt的(即真实跟踪框的标注信息),所以我们无法用motmetrics得到MOTA,IDF1等性能结果。因为官方想避免某些人根据这些gt信息,拟合出性能看起来很高的算法,类似于拿着答案来考试,从而影响算法真实表现。

故我们需要将自己在本地得到的测试结果上传(submit)到官方,让官方给我们返回性能指标评测结果:
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉

上传gt需要你注册一个官网账号,而注册账号和上传数据集流程又容易遇到坑,故我将自己的实现流程记录一下,帮助后来者。


一、账号注册

进入官网注册页面:https://motchallenge.net/register/
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
Affiliation填学校全名,Supervisor填导师英文名。

容易出现的问题主要是邮箱这块:

1.1 不要用QQ或163或gmail邮箱

这是国内常用的几个邮箱,一旦填入后,注册页面会显示以下信息:
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
要用学校的edu邮箱进行注册(基本每个大学都有免费办理自己edu.cn邮箱的渠道,自己可以去官网看看),导师的邮箱也需要用后缀为edu的邮箱。就跟论文投稿一样,用qq邮箱发送的邮件容易给收入垃圾箱,用edu邮箱的话比较正规。

1.2 正常注册流程

edu邮箱注册后,注册页面会提醒“你的账号正在接受审核”,接下来只要等官方发邮件到你邮箱就行。
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
第一封邮件是告诉你审核通过,让你到指定链接填写你的密码和其他信息,填完后提交会收到第二份邮件。
第二封邮件是让你点击指定链接进行账号激活

激活后就大功告成了。

也有人的情况是用edu邮箱注册后一直没反应(比如我),这时候一般需要写封小作文给官网邮箱info@motchallenge.net。跟管理员说明自己来自哪个学校,要用MOT干嘛干嘛,非商用,导师是谁,导师谷歌学术网站是什么等等等。
我发完邮件后的第三天就收到了对方的回信,然后就顺利注册成功了。

二、上传测试结果的流程

motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
官方其实写的很清楚了,先创建不同的方法,选择不同的数据集,最后将自己的所有预测文件进行打包上传即可。

(注意打包的文件不止是你在test推理得到的文件,你的打包文件里还要包含train文件夹下的GT文件,即提交的打包文件内容为:n个train/文件夹下的gt.txt文件 + 你对测试集的n个测试结果.txt,train中的gt.txt记得也要改名成页面上要求的格式

例如你要提交MOT16的结果进行测试,那你的打包文件应该包含MOT16-01.txt到MOT16-14.txt的14个文件)

2.1 要注意的问题:

1.你每个月只允许创建1Method,每个Method在相同数据集只能测最多4次,每次测试间隔为72小时。
这就意味着你一个月最多只能测试10次(每次间隔3天),且每个数据集(MOT16/MOT17等)一个月最多只能测4次,即结果没法频繁上传评测,上传次数宝贵。

我个人是先分一部分train数据不进行训练,而是作为测试集,并利用python提供的motmetrics包在该测试集上评估出效果有显著提升后再提交到官网上的,避免浪费次数和时间。
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉

2.官方的数据集里其实是用了自己的detector(DPM v5 ,ACF)来得到检测框,这些检测框信息也存在数据集的det文件夹下,如果你用的是自己的检测器,比如YOLOv5,官方会建议你将检测器也发给他们,但其实这个只是自己私人测试使用的话不影响。

当然如果你要正式发论文和刷榜的话,应该就需要自己读取数据集下的Det文件里面的行人检测框数据作为跟踪算法的输入,而不能用自己的检测器了。(个人理解:跟踪算法换上好的检测器比如从YOLOv5换成YOLOv8,那精度直接上升一大截,太作弊了,这样就不是在比谁的算法好而是比谁的检测器好了,要控制变量)

2.2.使用步骤

创建Method,一个Method代表你的一个MOT算法,一个月只能创建一次Method,一个Method里的数据集只能提交4次。

(一般都是创建MOT的method,这根据你用的数据集来决定,不清楚的把所有method都创建一遍看看每个method包含哪些数据集就知道了):
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
点击Create new method,因为我用的是MOT系列数据集,我直接在MOT模块下Create,信息自己随意填即可:

motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
创建完方法后点击右边的Submit
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉

motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
选择自己的要用来测试的数据集(比如这里选MOT15),填写自己硬件数据,推理时间,和训练数据集范围,硬件数据和推理时间自己随意看着填。

填完后可以看到自己的方法下多了行MOT15的Challenge,点击Submit Results:
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
根据官网要求按顺序摆放好你推理后的txt的顺序,打包成压缩文件zip格式上传即可:
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
这里可能会有人上传的时候会遇到 Wrong number of result files! 0 results found in archive, but XXX needed. Please make sure sure that all required txt files are in the root folder of the zip archive,这个问题是因为你是对一整个文件夹进行了压缩,其实是错的,这样会导致你的压缩包解压后还有一个文件夹(套娃)。正确的做法是ctrl+A全选所有txt文件,比如有14个txt文件,全选后进行压缩,这样打包的压缩包解压后就直接得到14个txt文件,而不会有中间文件夹产生,上传也才不会有错误。

错误的压缩方式(打开zip看到是一个文件夹):
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉

正确的压缩方式(打开zip看到的是所有的txt):
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉

每个txt文件里的信息要按照顺序摆放:

motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉

其中,第一列是帧数,第二列是人物ID,接下来四个是(行人框左上角x坐标,行人框左上角y坐标,框的宽度,框的高度),置信度,一些其他的定义。你要推理的txt文件要基于数据集里的定义进行摆放。

(但网上看到有人说只要保持每一列的格式正确,txt中的行顺序哪怕不按照帧顺序进行排序也不影响性能结果?但建议还是自己用python处理一下顺序)

更具体的信息可以看数据集论文里的描述,比如下面的MOT Challenge2020的论文里提到的格式:
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉

上传后,可以看到Submit Results就不再给上传Not allowed(72h后刷新),单击Challenge里的MOT15就能看到自己上传的数据了。
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉
我这里以MOT16为例,点击后可以看到性能指标:
motchallenge注册后没邮件,目标跟踪,人工智能,计算机视觉

总结

以上就是MOT Challenge的提交过程,如有问题,欢迎指出。文章来源地址https://www.toymoban.com/news/detail-773757.html

到了这里,关于[MOT Challenge]官方生成多目标跟踪算法性能评价指标结果,解决test数据集没有gt文件和官网注册问题的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 多目标跟踪MOT:Deepocsort+YOLOv8+OSnet实战(代码讲解)

    1. 到上面的github网站下载跟踪代码,该代码使用YOLOv8作为检测网络,不过YOLOv8的文件需要去下面的链接下载,然后替换掉跟踪代码中YOLOv8的空文件。 GitHub - ultralytics/ultralytics at 15b3b0365ab2f12993a58985f3cb7f2137409a0c NEW - YOLOv8 🚀 in PyTorch ONNX CoreML TFLite - GitHub - ultralytics/ultralytics at 1

    2024年02月04日
    浏览(45)
  • MATLAB算法实战应用案例精讲-【智能优化算法】多目标算法性能评价指标

    在评估多目标优化算法的效果时,我们通常使用五个主要指标:GD(Generational Distance)、IGD(Inverted Generational Distance)、Hypervolume、Spacing和Spread。 GD 和 IGD 是用于测量算法生成的解集合与真实前沿解之间的距离的指标。具体而言,GD测量了所有生成解与真实前沿解之间的平均欧

    2024年02月15日
    浏览(55)
  • OpenMMLab MMTracking目标跟踪官方文档学习(一)

    MMTracking 是PyTorch的开源视频感知工具箱。它是OpenMMLab项目的一部分。 它支持 4 个视频任务: 视频对象检测 (VID) 单目标跟踪 (SOT) 多目标跟踪 (MOT) 视频实例分割 (VIS) 第一个统一视频感知平台 我们是第一个统一多功能视频感知任务的开源工具箱,包括 视频对象检测、多对象跟

    2024年02月16日
    浏览(43)
  • 五种多目标优化算法(MOAHA、MOGWO、NSWOA、MOPSO、NSGA2)性能对比,包含6种评价指标,9个测试函数(提供MATLAB代码)

    1.1MOAHA 1.2MOGWO 1.3NSWOA 1.4MOPSO 1.5NSGA2 为了测试5种算法的性能将其求解9个多目标测试函数(zdt1、zdt2 、zdt3、 zdt4、 zdt6 、Schaffer、 Kursawe 、Viennet2、 Viennet3),其中Viennet2 与Viennet3的目标数为3,其余测试函数的目标数为2,并采用6种评价指标(IGD、GD、HV、Coverage、Spread、Spacing)进

    2024年02月21日
    浏览(54)
  • 五种多目标优化算法(MOJS、MOGWO、NSWOA、MOPSO、NSGA2)性能对比,包含6种评价指标,9个测试函数(提供MATLAB代码)

    1.1MOJS 1.2MOGWO 1.3NSWOA 1.4MOPSO 1.5NSGA2 为了测试5种算法的性能将其求解9个多目标测试函数(zdt1、zdt2 、zdt3、 zdt4、 zdt6 、Schaffer、 Kursawe 、Viennet2、 Viennet3),其中Viennet2 与Viennet3的目标为3,其余测试函数的目标为2,并采用6种评价指标(IGD、GD、HV、Coverage、Spread、Spacing)进行评

    2024年02月21日
    浏览(48)
  • 目标检测与跟踪 (3)- TensorRT&YOLO V8性能优化与部署测试

    目标检测与跟踪 (1)- 机器人视觉与YOLO V8_Techblog of HaoWANG的博客-CSDN博客 目标检测与跟踪 (2)- YOLO V8配置与测试_Techblog of HaoWANG的博客-CSDN博客 目录 系列文章目录 前言 YOLO v8 TensorRT 一、TensorRT 1.1 原理 1.2 架构 1.3 功能 1.4 性能 1.5 GPU并行计算 二、安装配置 1.下载 2.安装 3. 测

    2024年02月14日
    浏览(61)
  • 【目标跟踪算法】Strong SORT多目标跟踪模型论文解析+代码详解

    1. Strong SORT算法的背景和概述 Strong SORT算法基于经典的Deep SORT模型,并从目标检测模型、表征特征模型和匹配算法等各个方面对其进行了升级优化。 1.1 表观特征分支的优化算法 对于Strong SORT算法的表观特征分支部分,主要是进行了2方面的优化,一是优化了特征提取器的能力

    2024年02月12日
    浏览(35)
  • 【FPGA目标跟踪】基于FPGA的帧差法和SAD匹配算法的目标跟踪实现

    quartusii12.1 FPGA整体的算法流程如下图所示:  FPGA的模块主要包括如下几大模块: 摄像机驱动程序,SDRAM控制程序,显示屏驱动程序,中值滤波程序,帧差法模块,SAD模板匹配模块,跟踪定位模块等等。 跟踪模块顶层程序 帧差法模块 SAD模板匹配模块,R通道 SAD模板匹配模块,

    2024年02月04日
    浏览(43)
  • 目标跟踪——SORT算法原理浅析

    目标跟踪——SORT算法原理浅析 目标跟踪——Deep Sort算法原理浅析 基于yolov5与Deep Sort的流量统计与轨迹跟踪 Simple Online and Realtime Tracking(SORT)是一个非常简单、有效、实用的多目标跟踪算法。在SORT中,仅仅通过IOU来进行匹配虽然速度非常快,但是ID switch依然非常严重。 SORT最大

    2024年02月06日
    浏览(53)
  • 【深度学习】目标检测的性能评价指标,mAP_0.5,mAP_0.5,0.95,0.05

    指标有检测精度和检测速度之分: mAP是一个容易混淆的概念。计算mAP之前先考虑我们有的数值:图片原label的bbox、模型预测的bbox、模型预测的bbox的置信度、模型预测的bbox中目标类别的分类置信度。在YOLO中,最后两个数值会乘起来表示一个置信度数值。 此外,我们还需要确

    2023年04月21日
    浏览(36)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包