你好,游客 登录
背景:
阅读新闻

谷歌发布MobileNetV2:推动下一代移动计算机视觉网络

[日期:2018-04-08] 来源:新智元  作者: [字体: ]

来源:research.googleblog.com

作者:Mark Sandler and Andrew Howard

编译:文强

【新智元导读】谷歌今天发布MobileNet重大更新,推出MobileNetV2,在结构上使用depthwise可分离卷积为基础,在层与层之间增加了线性的bottleneck,并且bottleneck之间也增加了残差连接,因此速度更快,精度更高,更适合设备上处理。

去年我们推出了MobileNetV1,这是一系列专为移动设备设计的通用计算机视觉神经网络,支持分类、检测等功能。在个人移动设备上运行深度网络的能力可改善用户体验,随时随地访问,并为安全性、隐私和能耗提供额外优势。随着新应用的出现,用户可以与真实世界进行实时交互,因此对更高效的神经网络也提出了需求。

今天,我们很高兴地宣布推出支持下一代移动视觉应用的MobileNetV2。相比MobileNetV1,MobileNetV2有了一些重大改进,推进了分类、对象检测和语义分割等移动视觉识别技术的最好性能。MobileNetV2作为TensorFlow-Slim图像分类库的一部分发布,你也可以在下载Jupyter笔记本,或者直接在Colaboratory环境中探索MobileNetV2。

MobileNetV2也并入谷歌最新发布的TensorFlow Hub当中作为TF-Hub上的模块使用,预训练好的checkpoints可以在Github上找到。

MobileNetV2基于MobileNetV1的思想,使用在深度上可分离的卷积(depthwise separable convolution)作为构建模块。不过,V2引入了两种新的架构特性:1)在层与层之间的线性的bottleneck,以及2)bottleneck之间的shortcut链路。基本结构如下所示。

MobileNetV2的架构:蓝色模块代表深度可分离卷积层

MobileNetV2的设计直觉是,bottleneck对模型的中间输入和输出进行编码,而内部的层则封装了模型从低级概念(比如像素)转换为更高级的描述(比如图像类别)的能力。最后,与传统的残差连接一样,shortcut可以让训练速度更快,准确性更高。

更多技术细节参见论文“MobileNet V2:Inverted Residuals and Linear Bottlenecks”。

与第一代MobileNets相比性能如何?

总体而言,MobileNetV2模型在精度相同的情况下,整体速度都更高。特别是,V2使用的操作次数减少了2倍,参数减少了30%,在Google Pixel手机上的速度比MobileNetV1模型快30%至40%,同时实现了更高的准确性。

MobileNetV2作为物体检测和分割的特征提取器是非常有效的。例如,当与SSDLite[2]配对进行检测时,新模型在取得相同精度的情况下,要比MobileNetV1快大约35%。我们已经在Tensorflow Object Detection API下开源了这一模型[4]。

为了实现设备上语义分割(on-device semantic segmentation),我们使用MobileNetV2作为语义分割模型DeepLabv3简化版的特征提取器[3]。在语义分割基准PASCAL VOC 2012中,这一模型获得了与使用MobileNetV1作为特征提取器相似的性能,但参数要少5.3倍,MIultiply-Adds操作次数减少了5.2倍。

MobileNetV2提供了一个非常高效的面向移动的模型,可以用作许多视觉识别任务的基础。希望通过与更广泛的学术和开源社区分享这一技术,我们能够帮助推动研究和应用程序的开发。

致谢

感谢核心贡献者朱梦龙, Andrey Zhmoginov 和Liang-Chieh Chen。特别感谢Bo Chen, Dmitry Kalenichenko, Skirmantas Kligys, Mathew Tang, Weijun Wang, Benoit Jacob, George Papandreou, Zhichao Lu, Vivek Rathod, Jonathan Huang, Yukun Zhu,以及Hartwig Adam。

论文MoblieNetV2:反向残差和线性瓶颈

摘要

在本文中,我们描述了一种新的移动架构MobileNetV2,改善了移动模型在很多任务和基准中的state of the art,并且在很多不同尺寸的移动模型上做到了这一点。我们描述了将这些移动模型应用在我们称之为SSDLite的新框架中进行对象检测的有效方法。此外,我们还演示了如何通过我们称为Mobile DeepLabv3的简化形式DeepLabv3来构建移动语义分割模型。

MobileNetV2架构基于反向残差结构,其中残差块的输入和输出是薄的瓶颈层,与传统残差模型相反——传统残差模型在输入中使用扩展表示(expanded representations),而MobileNetV2使用轻量级深度卷积过滤中间扩展层中的特征。此外,我们发现为了维持表示的能力(representational power),去除很窄的层中的非线性非常重要。我们证明这可以提高性能,并提供得出这一设计的直觉。最后,我们的方法能将输入/输出域与转换的表达性分开,为进一步分析提供了便利的框架。我们衡量了新模型在ImageNet分类,COCO物体检测,VOC图像分割方面的性能。我们评估了精度和MAdd操作次数之间的trade-off,以及参数的数量。

论文专门对比了几种移动视觉模型的架构:NasNet是谷歌使用神经网络自动搜索得到的,ShuffleNet则是去年孙剑团队提出的,基于分组逐点卷积和通道重排操作,优于谷歌MobileNet

了解更多:返回搜狐,查看更多

  1. MobileNetV2论文:https://arxiv.org/pdf/1801.04381.pdf

  2. MobileNet Github:https://github.com/tensorflow/models/tree/master/research/slim/nets/mobilenet

  3. 谷歌博客:https://research.googleblog.com/2018/04/mobilenetv2-next-generation-of-on.html

  4. ShuffleNet介绍:孙剑团队提出移动端神经网络ShuffleNet,优于谷歌MobileNet

收藏 推荐 打印 | 录入:Cstor | 阅读:
相关新闻      
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款