Designing Network Design Spaces,CVPR ,RegNet,,
Ilija Radosavovic, Raj Prateek Kosaraju, Ross Girshick, Kaiming He, Piotr Dollár
/abs/.13678
摘要:
本文作者提出一种新型的网络设计范例。目标是协助提升网络设计的理解,并发现适合不同平台(settings)的通用设计原则。
作者并不是专注于设计单个网络实例,而是设计“网络设计空间”将网络群体参数化。整个过程类似于经典的网络手工设计,
但是提升到了设计空间的水平。应用这个方法学,我们探索了网络设计的结构方面,形成了一个由简单的、规则的网络组成的 低维设计空间,称之为RegNet。RegNet参数化的核心洞察非常简单:好的网络的宽度和深度可以用量化的线性函数来解释
作者进一步分析了RegNet的设计空间,得出了与当前网络设计实践不一致的有趣发现。RegNet设计空间提供了简单而快速的网络,
这些网络可以很好地在广泛的算力系统工作。在可比较的训练设置和算力情况下,RegNet模型的性能优于流行的EfficientNet
模型,在gpu上的速度比其快5倍。
--
ref
/jiaoyangwm/article/details/105245796
/qq_34795071/article/details/105262100
/p/126616319
/heiyaheiya/article/details/90754003