点击下方卡片，关注“CVer”公众号
AI/CV重磅干货，第一时间送达
作者：Mostafa Ibrahim
本文转载自：AI公园  |  编译：ronghuaiyang
导读
作者在kaggle比赛中从建立基线到一步一步的优化过程，最终将performance提升了一倍，非常好的竞赛经验总结文章。
我花了三个月的时间深入研究物体检测。我尝试了很多方法，从实现最先进的模型，如YoloV5、VFNets、DETR，到将目标检测模型与图像分类模型融合以提高性能。在比赛的早期阶段，我努力提高基准模型的分数，但我找不到有用的在线资源，这就是我写这篇文章的原因。我想带你们踏上一段从头到尾的旅程，简要地向你们展示我所走的每一步，我的成绩几乎翻了一倍。
官方的竞赛指标是(mean) Average Precision，这是最常用的目标检测指标之一。为了向你展示每一步的进步，我将在旁边加上它的分数。
1、第一步是建立一个简单的基线，0.126 mAP
我敢肯定，这是大量数据科学家早前落入的陷阱。我们总是很兴奋地用我们能想到的每一种技术来做最复杂的模型。这是一个巨大的错误，你最终会感到沮丧并离开ML项目，即使你不这样做，你也很可能会过拟合。
我经历了惨痛的教训，但最终还是用以下规范构建了一个初始模型：
  • YoloV5-XL
  • 图像的分辨率从3K调整为512
我知道这听起来很简单，一开始我也是这么想的。但是，实际上，构建基线可能是最烦人的步骤之一。因为有很多步骤，比如将输出处理成竞赛的格式等等(我不想深入讨论)。
另外，我实际的初始YoloV5-XL模型只有0.064(上面的一半)，我花了2周的时间调试它，结果发现我没有正确地归一化输入数据！
2、去掉一个输入类别！0.143 mAP (+13%)
这个trick当时对我来说没有多大意义。14个输入类别，13种不同疾病，1个“No Finding”类别。大约70%的数据集属于“No Finding”类，只有30%属于其他类。有个参赛者发现，你可以去掉这个类，并使用“2 class filter”技巧来预测它(见下文)。这使得数据集的倾斜度大大降低。此外，它允许训练明显更快(因为你将训练更少的图像)。
3、增加训练和推理图像的分辨率，0.169 mAP (+18%)
第二步是将图像分辨率从512提高到1024。这是一个微不足道的改进，但我想在这里传达的重点是，如果我以这个分辨率开始，我可能不会进一步提高我的分数。原因很简单，因为在这个更高的分辨率上进行训练会导致批大小从16减少到4(为了不耗尽GPU内存)，这大大减慢了训练过程。这意味着更慢的实验，你不会想用更慢的实验来比赛……
4、融合EfficientNet和YoloV5，0.196 mAP (+16%)
这不是我的主意，我是从一个public kernel中得到的想法。但是，这是我在Kaggle比赛中遇到的最好的主意之一。我想强调的是，在Kaggle上进行比赛的一个主要好处是你可以从社区中学到很多东西。
这里的主要思想是训练一个图像分类模型(EfficientNet)，它可以实现非常高的AUC(约0.99)，并找到一种方法将其与目标检测模型融合。这被称为“2 class filter”，比赛中的每个人都采用了这个方法，因为它大大提高了分数。我会在下一篇文章中介绍。
5、加权框融合(WBF)后处理，0.226 mAP (+15%)
这对我来说也是一个全新的想法，在网上很难找到。加权框融合是一种对目标检测模型产生的框进行过滤，从而使结果更加准确和正确的技术。它的性能超过了现有的类似方法，如NMS和soft-NMS。具体内容我会在另一篇文章介绍。
应用WBF的结果是这样的：
6、用5折交叉验证使用WBF融合，0.256 mAP (+13%)
我犯过的一个最大的错误是我忘记做交叉验证，这也是我写这篇文章的主要原因之一，就是为了强调ML基础知识的重要性。我太专注于应用新技术和提高性能，以至于忘记了应用这个基本的ML技术。
如果你想知道我是如何得到0.256的，那是因为我读了一些在竞赛结束后发布的解决方案，这是在类似于我的模型的交叉验证后他们大多数能得到的结果。最终的pipeline可以在这里看到：
7、我尝试过的其他的东西，但是没有成功
  1. DETR训练。DETR是一个了不起的目标检测transformer ，我想把它实践，但是，我没有发现他们提供的代码文档有什么帮助，我也找不到很多有用的资源。此外，我花了大约3周的时间(大约是比赛持续时间的四分之一)尝试让它工作。我这么说的原因是，虽然离开你一直在研究的解决方案可能很难，但在实验性ML的世界里，这有时不得不做，说实话，我希望我可以早一点离开。但是，好的一面是，我发现另一个名为MMDetection的库提供了DETR，而且使用起来容易得多。
  2. WBF预处理，虽然很多竞争对手都说这提高了他们的分数，但并没有提高我的分数。这就是ML的特点，并不是所有的技术都能以同样的方式使不同的模型受益。
我最终的代码：https://github.com/mostafaibrahim17/VinBigData-Chest-Xrays-Object-detection-
英文原文：https://towardsdatascience.com/a-journey-of-building-an-advanced-object-detection-pipeline-doubling-yolov5s-performance-b3f1559463bf
CVPR和Transformer资料下载
后台回复：CVPR2021，即可下载CVPR 2021论文和代码开源的论文合集
后台回复：Transformer综述，即可下载最新的两篇Transformer综述PDF
CVer-目标检测交流群成立
扫码添加CVer助手，可申请加入CVer-目标检测 微信交流群，方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch和TensorFlow等群。
一定要备注：研究方向+地点+学校/公司+昵称（如目标检测+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群
▲长按加小助手微信，进交流群
▲点击上方卡片，关注CVer公众号
整理不易，请给CVer点赞和在看
继续阅读
阅读原文