Transformer 有可能替代 CNN 吗?现在下结论还为时过早。
Transformer 的跨界之旅,从 2020 延续到了 2021。
2020 年 5 月,Facebook AI 推出了 Detection Transformer(DETR),用于目标检测和全景分割。这是第一个将 Transformer 成功整合为检测 pipeline 中心构建块的目标检测框架, 在大型目标上的检测性能要优于 Faster R-CNN。
DETR-R101 处理的全景分割结果。
2020 年 10 月,谷歌提出了 Vision Transforme