微软亚洲研究院王井东：下一代视觉识别的基本网络结构是什么样的？ | CCF-GAIR 2020

2020 年 8 月 7 日，第五届全球人工智能与机器人峰会（CCF-GAIR 2020）在深圳正式开幕。

CCF-GAIR 2020 峰会由中国计算机学会（CCF）主办，雷锋网、香港中文大学（深圳）联合承办，鹏城实验室、深圳市人工智能与机器人研究院协办。

作为中国最具影响力和前瞻性的前沿科技活动之一，CCF-GAIR 大会已经度过了四次精彩而又辉煌的历程。

在大会第二天的「视觉智能•城市物联」专场上，微软亚洲研究院首席研究员王井东分享了其在新一代视觉识别网络结构上的研究成果。

王井东介绍，目前学界的网络结构都是围绕分类任务而发明，除了分类以外，在计算机视觉里面还有其它的重要任务，比如图像分割、人脸关键点的检测、人体姿态估计、目标检测等等。

下一代的网络结构是什么样的呢？是否适用于更为广泛的视觉识别问题？

王井东首先介绍了分类网络结构学习高分辨率表征的方式，是通过上采样的方法，包括两个步骤，第一个步骤是分类的网络架构，表征空间尺度开始比较大，然后慢慢变小。第二个步骤，通过上采样的方法逐步从低分辨率恢复高分辨率。这样的方法获得的特征空间精度较弱。

而王井东团队研发的高分辨率网络架构（HRNet）没有沿用以前的分类架构，也不是从低分辨率恢复到高分辨率，自始至终维持高分辨率。

他们让高中低分辨率不停地交互，使得高分辨率可以拿到低分辨率语义性比较强的表征，低分辨率可以拿到高分辨率的空间精度比较强的表征，不停地融合，最终取得更强的高分辨率表征。

在人体姿态、分割、人脸关键点检测、目标检测等任务中，HRNet从参数量、计算量以及最终结果看，高分辨率结构都非常有优势。HRNet在人体姿态估计的任务上，已经成为标准的方法；在分割任务上，由于其更好的性能，也被大家广泛使用。

以下是王井东大会现场全部演讲内容，雷锋网作了不改变原意的整理及编辑：

注：完整版演讲PPT可关注公众号「AI掘金志」回复“王井东”获取。

非常荣幸能够在这里跟大家分享我们的工作，今天我报告的题目是“高分辨率网络，一种面向视觉识别的通用网络结构”。

在计算机视觉里面，视觉识别是一个非常重要的领域，这里面我列举了几种代表性的研究课题：图像分类、目标检测、图像分割、人脸关键点的检测和人体关键点的检测。

从2012年以来，随着AlexNet横空出世，深度神经网络在计算机视觉领域成为主流的方法。2014年，谷歌发明出了GoogleNet，牛津大学发明了VGGNet，2015年微软发明了ResNet，2016年康奈尔大学和清华大学发明了DenseNet，这几个结构都是围绕分类任务而发明的网络结构。

除了分类以外，在计算机视觉里面还有其它的任务，比如说图像分割、人脸关键点的检测、人体姿态估计等等。

下一代的网络结构是什么样的？是否适用于更为广泛的视觉识别问题？

在解答这些问题之前，我们先了解分类网络、我们为什么提出这样的问题，以及现在的分类网络存在的问题。

        

 

LeNet-5分类网络是1998年发明的一种网络结构（如上图），包括一系列减小空间大小的过程，具体来讲就是把空间从大的特征变成小的特征，然后通过变换的向量，最后进行分类。

前面提到的几个结构，包括GoogleNex、VGGNet、ResNet等等，都是通过这种方式，逐步减小空间的大小，最终得到一个低分辨率的表征。低分辨率的表征在图像分类任务中是足够的，因为在图像分类里面，只需要给一个全局的标签，而不需要详细的空间信息，我们称之为空间粗粒表征的学习。

但是在其它任务中，比如检测，我们需要知道检测框的空间位置，比如分割，我们需要每个像素的标签，在人脸和人体的关键点的检测中，我们需要关键点的空间位置，这样一系列的任务实际上需要空间精度比较高的表征，我们称之为高分辨率表征。

目前业内学习高分辨率表征有几个原则，一般是以分类的网络架构作为主干网络，在此基础上学习一些高分辨率的表征。

学习高分辨率表征，有一种上采样的方法，包括两个步骤，第一个步骤是分类的网络架构，表征开始比较大，然后慢慢变小；第二个步骤，通过上采样的方法逐步从低分辨率恢复高分辨率。

 

常见的网络架构，比如U-Net，主要应用在医学图像，SegNet主要是用于计算机视觉领域，这几个结构看起来很不同，其实本质都一样。

如此一来，分辨率开始高，然后降低了，然后升高。过程中，先失去了空间精度，然后慢慢恢复，最终学到的特征空间精度较弱。

 

为了解决这个问题，我们提出了一种新型的高分辨率表征学习方法，简称为HRNet。HRNet可以解决前面提到的从AlexNet到DenseNet都存在的问题，我们认为下一个网络结构是HRNet。

HRNet与以前的网络结构不同，它不是从分类任务出发，它可以解决更广泛的计算机视觉问题。

我们的目的是学习一个空间精度强的表征，我们设计的HRNet不是沿用以前的分类结构，也不是从低分辨率恢复到高分辨率，而是从零开始，自始至终都维持高分辨率，体现了空间分辨率较强的表征。

           

这个结构是如何设计？作为对比，我们先分析分类的网络结构原理。

在下图的例子里，有高分辨率的卷积（箭头代表卷积等的计算操作，这些框是表征），有中等分辨率的卷积，最终得到低分辨率的表征。分类网络中，这三路是串联的，现在我们把这三路并联，让每一路前新增加一路，最终拿到一个高分辨率的表征。

  

       这样大家会有疑问，三路是独立的，除了新增加的相关联之外，其它的都不产生关系，这样会损失什么？在低分辨率方面，它可以学习到很好的语义信息，在高分辨率里，它的空间精度非常强，这三路之间的信息没有形成互补。

我们采用的方法，是让三路不停地交互，使得高分辨率可以获得低分辨率语义信息较强的表征，低分辨率可以获得高分辨率的空间精度较强的表征，不停地融合，最终取得更强的高分辨率表征。

      

简单来讲，以前的高分辨率是通过升高、降低再升高获得，我们通过将不同分辨率的卷积由串联变成并联，自始至终保持高分辨率，并且还加入不同分辨率之间的交互，使得高分辨率表征和低分辨率表征的互动变强，获得对方的优势特征，最终获得非常强的高分辨率表征。

以上是设计方法，下面看看我们最终设计的网络例子。

 HRNet实际上固定了它的深度，把这个结构分成若干个模块，每个模块是由若干个可重复的组织设计出来的。比如第三个部分，它由4个模块形成。

如何变化这个网络结构适应不同的需求？

我们采用变化宽度的方式。与ResNet比，这个结构中的宽度小很多，比如之前ResNet的宽度是256，HRNet的宽度是32-48。正因为这样的设计，我们最终得到的参数和计算复杂度与ResNet的结果是可比的。

下面了解下HRNet在不同任务中的实验性能。

人体姿态估计中，每个图片中人数很多，我们的任务是要找出每个人的关键点，并区分不同人的关键点。

          

做法有两种，一种方法自上而下（Top-Down）的方法，首先使用一种检测器，把人检测出来，然后每个人单独做关键点的检测。另外一种方法自下而上（Bottom-Up），直接检测关键点，然后进行一些聚类的操作，把不同人再分开来。

我们先展看看自上而下方法的结果，下图左边是基于ResNet的方法，右边的是HRNet的方法，比较的指标是关键点位置寻找准确与否。我们的结果是74.9%，结果要好于ResNet，同时参数量上，ResNet是68.5，我们是28.5。通过进一步加宽HRNet网络结构后，可以进一步提高结果。     

这个方法自从去年在CVPR发表以来，已经成为在人体姿态构建里一个标准的网络，一些文章或者比赛都会采用HRNet架构。

 

在分割任务中。采用街景分割的例子，街景分割在自动驾驶、无人驾驶、辅助驾驶中都非常重要。

             

以一个非常重要的数据集Cityscapes validation比较，其中，mIoU是衡量分割好坏的一个非常重要的指标，从下图看到，HRNet-W40的结果优于其他方法，而体现计算量的GFLOPS指标中，HRNet是三位数，其他方法大多为四位数，HRNet计算量更小。在参数量、计算量上，HRNet的过程和最终结果都具有优势，将网络结构规模变大后，优势进一步提高。

             

Cityscapes Test数据集的结果看，HRNet的表现也是最好的。

在今年4月份之前，我们在Cityscapes分割的榜单中排名第一。5月份，英伟达的一个新方法排名第一，了解过他们的方法后，发现它最终的结果是基于HRNet，再加上它的模块，从这个角度看，说明HRNet的影响力在逐步变大。

     

人脸的关键点检测应用非常多，娱乐、短视频中的美颜功能，都需要人脸关键点的检测，定位出眼睛、鼻子等的位置。     

 

下图展示的是在一个最新数据集上的结果，人脸关键点上有98个点，在测试数据集上，指标衡量的是预测的点与人工标注的点之间的差距，HRNet的数值比之前的都小，差距最小。除此之外还列出了6种不同复杂条件，比如人脸姿态的变化、表情的变化、光照、是否化妆、是否遮挡，图片清晰程度，这系列的情况下，我们的结果都比以前的方法好。

 下面再看我们的方法用在目标检测任务上。我们需要把物体框出来，同时要预测框中的物体种类。          

在最流行的Faster R-CNN框架里，我们用HRNet和ResNet的方法进行对比，为保证公平，分成4组，在每组参数量和计算量可比的情况下进行对比。

前三组在Faster R-CNN上比较，最后一个在Cascade R-CNN上比较，蓝色数值表示预测的整体好坏情况，从结果看，HRNet都远优于ResNet。除此以外，HRNet有非常好的高分辨率表征，在小物体上更有优势。

       

实体分割中Instance Segmentation，需要表征出物体的轮廓，而不仅仅是一个框，我们在Mask R-CNN中和ResNet对比，我们的表现有提高，尤其在小物体上体现更加明显。当然，仅仅在Mask框架里做不能说明问题，所以我们也会在发表的研究里列举其他的方法，结果都比ResNet的表现好，这里不一一列举。

 

      

HRNet出来时，有人怀疑是否其参数量、计算量变大，事实上，我们并没有增加参数量和计算量，或者说增加网络结构的复杂度来提升性能，比如上图中，各项参数中两者计算量差不多，但是结果是HRNet更好。

下面我们看看分类。

在视觉领域，预训练非常重要，它需要帮网络进行初始化，通过迁移学习应用到其他领域，或者给网络结构做更好的初始化以帮助优化。

当初我们做这个网络结构的目的是为了提出一个高分辨率表征，以帮助分类以外的任务。后来发现，在同等参数量和计算量基础上，HRNet的结果比ResNet好。

2012年以来AlexNet、GoogleNet、VGGNet、ResNet、DenseNet等是为了做分类任务，HRNet除了可以做分类任务，且性能很好，还可以做分割、检测、识别等等各种任务，面部检测、行人的检测、高空图像识别，卫星图象识别，也都有很好的效果。

            

HRNet去年10月推出后，被很多比赛的参赛者使用。比如去年ICCV keypoint and densepose比赛中，几乎所有参赛选手都使用了HRNet，谷歌、商汤团队用HRNet做panoptic segmentation 和 openimage instance segmentation比赛，也取得了最好的效果。

 

最近大家对网络结构搜索了解较多，既然有了搜索，为什么还要有网络结构设计？网络结构设计实际上是为搜索提供了一个空间，这也是非常重要的。今年CVPR上的一篇来自谷歌的文章，它的出发点与HRNet非常相似，认为以前的网络都是通过空间变大然后变小再恢复，这样对一些识别和检测任务非常不友好，他设计一个NAS的算法，来解决这个问题。

 

网络结构除了以上所述HRNet一系列东西之外，还有很多非常重要的研究，比如怎么利用人的常识帮助网络设计，怎么设计轻量化网络，怎么与计算机硬件联系一起。

计算机视觉中，怎么为具体的任务设计网络结构的研究也非常多。我给大家简单介绍一下我们在ECCV 2020和CVPR 2020的关于Head Architecture Design的工作，主要研究如何把人的常识加进设计中。

          

这里给大家讲一下语义分割，语义分割要预测每个像素点的标签。深度学习在该领域内的应用非常广泛， FCN是一个标准方法，一个图像经过一个网络结构，最后预测像素点的标签。由于每个像素点本身没有标签，它的标签来自对周围信息的判断，所以通常会加上上下文的信息。

在介绍我们的方式之前，大家可以了解下以前的方法。

以前的方法主要是Spatial context（空间上下文）比如有PPM、ASPP，它是在像素点周围有规律地选出一些像素点，以求得当前像素点表征，进而进行标注，我们把它称为空间式。

我们的方法是Object context（对象上下文），它的出发点非常简单，正如前面提到，像素点本身没有标签，标签来自于这个像素点所在的物体，比如下图红色的点，这个位置很难有标签，它的标签来自于这个车。运用这个出发点，我们思考路径是：能不能拿到这个红色像素点所在的物体特征，来帮助表达这个红色的像素点。基于这个出发点，我们提出了OCR方法。

 

            

OCR的方法涉及鸡生蛋还是蛋生鸡的问题。我们事先并不知道分割，是先估计一个粗略的分割，有一个当前的表达，比如下图，取红色像素点的特征，把它输入到模块里，得到红色像素点当前的特征和其它的若干特征（K object regions），然后把这些特征经过变换，算出它们之间的相似度，根据相似度，经过加权池化（weighted pooling），然后得到像素点的表征，根据这个表征以及以前的表征一起进行预测。

           

 

 

从数据看，HRNet+OCR的方法的结果为82.5，这是发表文章时业界最好的结果。

            

另外简短介绍一下自下而上姿态预测（Bottom-Up Pose Estimatiom）中的工作。

它不需要人体的检测就可以直接预测人体的关键点。

其中有个关于人体大小不一的问题，以前的方法没有确切的解决方式，我们提出“高分辨率特征金字塔”的方法。把图形输入到HRNet中做一个表征，从小的特征中分辨大的，从大的特征里面分辨小的，这个方法的结果表现也是非常好。

           

最后简单总结一下，我讲的主要是HRNet，作为一个通用的网络结构，给大家展示了在视觉分割、检测、人体关键点、人脸关键点的预测等的原理，一系列的结果都比ResNet好，目前已经成为一个标准的方法。除此以外，我们借助基于具体任务的网络结构设计，比如加上OCR的方法、高分辨率特征金字塔（Higher-Resolution Feature Pyramid）的方法取得的效果都非常好。

 我们也提供了代码。

雷锋网雷锋网雷锋网

雷峰网原创文章，未经授权禁止转载。详情见转载须知。