Focal Loss与RetinaNet解决目标检测中类别不平衡的新型损失函数阅读笔记 · 来源ICCV 2017 最佳学生论文《Focal Loss for Dense Object Detection》论文背景本文与同年 ICCV 最佳论文Mask R-CNN可视为孪生之作作者团队基本来自 Facebook 人工智能研究院FAIR聚焦的同样是物体识别与语义分割领域但不涉及实例分割问题。核心作者林仓义Tsung-Yi Lin第一作者当时在 FAIR 实习现就职于 Google Brain、Priya Goyal、Ross Girshick、何恺明、Piotr Dollár。其中 Girshick、何恺明、Dollár 同时也是 Mask R-CNN 的核心作者。问题定义单阶段 vs 两阶段目标检测目标检测任务有两种主流技术路线单阶段One-stage直接从输入图像提取特征一步完成物体分类与边界框定位。思路直观但面临严重挑战——图像中绝大多数区域不包含目标物体负例导致数据集正负样本极度不均衡。传统的交叉熵损失函数无法有效应对这种分布学习过程事倍功半。两阶段Two-stage先通过神经网络生成候选区域Region Proposal再对候选区域进行精细分类与定位。典型代表包括 Faster R-CNN 及其变体。两阶段模型在精度上长期领先但推理速度较慢。在本文发表之前单阶段模型的检测精度始终无法匹敌两阶段模型。核心贡献Focal Loss焦点损失传统交叉熵的缺陷对于二分类问题设模型预测为正例的概率为 p交叉熵损失Cross Entropy即为负对数似然。问题在于即使 p 已经足够大如 p 0.5交叉熵仍会产生不可忽略的损失——模型被迫在已经能自信判断的样本上继续用力而真正困难、需要重点学习的样本反而没有被充分关注。Focal Loss 的设计思想Focal Loss 对交叉熵做了一个关键修改在负对数似然前乘以一个与模型置信度成反比的调节系数该系数由一个可调超参数 γ 控制。这个设计带来两个关键特性降低易分类样本的权重当模型对某个样本的预测高度自信p → 1调节系数趋近于 0大量降低该样本对总损失的贡献。保持难分类样本的权重当样本被错误分类、或真实概率很小损失与交叉熵基本持平模型继续聚焦这些困难样本。直观理解Focal Loss 让模型学会忽略已经会做的题集中精力攻克难题从而在正负样本严重失衡的场景下仍能高效训练。RetinaNet基于 Focal Loss 的单阶段检测网络论文基于 Focal Loss 提出了一个完整的单阶段检测网络RetinaNet架构要点如下组件作用ResNet 骨干网络从原始输入图像提取基础图像特征FPNFeature Pyramid Network多尺度特征金字塔处理不同分辨率和大小的目标Anchor 机制类似 Faster R-CNN从滑动窗口中探索候选矩形框双平行子网络分别用于物体分类和边界框回归借虴两阶段模型的设计RetinaNet 的设计哲学是用 Focal Loss 解决单阶段模型的训练难题同时在网络结构上融合两阶段模型的优秀实践FPN Anchor 双头输出取长补短。实验验证在 COCO 目标检测数据集上的实验结果RetinaNet 的平均精度Average Precision超越所有此前发布的单阶段模型验证了 Focal Loss 和网络架构的有效性。在不同 γ 参数配置下的对比实验表明调节系数对最终精度有显著影响。与经典两阶段模型 Faster R-CNN 及其变体相比RetinaNet精度持平甚至更优同时保留了单阶段模型的推理速度优势。关键结论目标检测中单阶段模型长期受困于正负样本不均衡问题的根源在于传统损失函数交叉熵的固有缺陷而非模型结构本身。Focal Loss 通过动态调节样本权重让模型自动聚焦困难样本是一种简洁而高效的解决方案。RetinaNet Focal Loss ResNet FPN Anchor实践证明这一组合在精度和速度之间取得了优秀平衡。本文启发了一个重要方向修改目标函数本身是应对数据不平衡问题的有效手段与数据重采样、难例挖掘等方法形成互补。