[Olewave长评] Xception: 具有深度可分卷积的深度学习
Xception将Inception假设推向了逻辑极端,通过将跨通道和空间相关性分解为完全独立的操作,而它推广的深度可分卷积现在随处可见
Xception 通过将跨通道和空间相关性推向完全独立的操作,将 Inception 假设推向了逻辑极限,而它所普及的深度可分离卷积现在出现在从移动视觉主干到语音编码器的各个地方。这篇长篇评论贯穿了整个架构,解释了为什么以这种方式分解卷积不仅是参数高效的,而且还是一种真正不同的数据相关性建模方法。
讨论涵盖了从 Inception 到 Xception 的演变、深度可分离卷积背后的数学和直觉、参数效率论证以及将 Xception 放在 ImageNet 尺度地图上的实验结果。对于语音人员来说,相同的原语出现在 Conformer、Branchformer 和当今最高效的 ASR 编码器中,因此深入了解它所带来的好处远远超出了图像分类。这篇长篇评论还花时间解释了为什么极端的起始假设实际上在经验上成立,以及你可能期望它在哪里被打破。如果你想要完整的版本而不是电梯演讲,那么当你有足够的下午时间来集中注意力时,这是一个值得排队的版本。
