论文解读: Quantized Convolutional Neural Networks for Mobile Devices

关注SIGAI公众号,获取更多技术文章及资源

PDF全文地址:http://tensorinfinity.com/paper_118.html

论文地址:https://arxiv.org/abs/1512.06473
源码地址:https://github.com/jiaxiang-wu/quantized-cnn

其它机器学习、深度学习算法的全面系统讲解可以阅读《机器学习-原理、算法与应用》,清华大学出版社,雷明著,由SIGAI公众号作者倾力打造。

书的购买链接
书的勘误,优化,源代码资源

CNN网络在许多方面发挥着越来越重要的作用,但是CNN模型普遍很大,计算复杂,对硬件的要求很高,这也是限制CNN发展的一个因素。在这篇论文中,作者提出了一个加速和压缩CNN的方法——Quantized CNN,主要思想是对卷积层和全连接层中的权重进行量化,并最小化每层的响应误差。作者也在ILSVRC-12上做了大量的实验,证明对于分类任务在仅损失很小的准确率下,该方法可以达到4-6倍的加速,和15~20倍的压缩。作者也在实际手机设备中进行了实验,对于移动设备(华为Mate7)可以在1s内准确分类图片,其效果如图1所示。红色为原始网络的效果,蓝色为量化后的网络的效果。第一张图是耗时的比较,第二张图是存储空间的比较,第三张图是forward过程占用内存的比较,第四张图是错误率比较。发现该方法确实可以对CNN网络有很好的加速和压缩效果,同时并没有增加很多错误率。
在这里插入图片描述

图1 华为Mate7手机上AlexNet,CNN-S两个网络在量化前后的耗时、存储和准确率

一.简介

目前CNN网络尽管取得了很成功的发展,模型准确率在很多方面都远远高于传统方法,但是其参数个数,和计算复杂度始终是制约其快速发展的一个因素,例如8层的AlexNet就有60M参数,在分类一张图需要729M的浮点操作个数,尽管训练过程可以离线进行,GPU也可以有很好的加速效果,但是对于一般的个人电脑和移动设备,仅仅是测试中的forward过程就已经十分吃力,甚至是无法负担这样巨大的计算需求,再加上移动设备上存储条件的限制,当前很多效果很好的深度学习模型无法在移动端实现。因此网络模型的加速和压缩至关重要。
对于大多的CNN网络,卷积层是最耗时的部分,全连接层则是最占存储空间的部分,由于这两者在CNN网络的复杂度和空间占用上存在本质上的不同,因此大多的工作是针对其一进行的,比如【7,13,32,31,18,17】低秩估计和矩阵分解方法用于加速卷积层,另一方面【3,7,11,30,2,12,28】则针对全连接层研究参数压缩的方法。总体看上述工作都仅仅完成了加速网络,或压缩参数中的一个工作,却没有同时做加速和压缩。
本文提出的方法Quantized CNN(Q-CNN)可以在很小的准确率损失下同时加速和压缩CNN模型。该方法的核心是对参数进行量化(用少部分的参数来表示全体参数),并通过内积运算来估计卷积层和全连接层的输出。为保证准确率,该方法在参数量化过程中最小化每层输出的估计误差。同时为了减少多层量化导致的误差累积,本文采用的策略是每层的优化目标中考虑之前的估计误差。
第二节将先叙述一些基础知识,第三节将详细叙述本文提出的方法,第四节是相关实验部分,作者在MNIST,ILSVRC-12上分别进行了实验,针对AlexNet,CaffeNet,CNN-S,VGG16网络结构进行量化,总体实验结果表明,对每一种网络,Quantized CNN都可以达到4倍的加速,和15倍的压缩,并保证Top-5准确率下降不到1%。最后作者在实际的手机上也进行了实验,证明了该方法的实际效果。

二.基础

## 卷积的本质

在测试部分(也即推理过程中)由于大部分的计算在卷积层部分,而大部分的参数在全连接层部分,因此为了得到最有效率的forward过程,我们可以重点加速卷积层的计算,压缩全连接层的参数。
在CNN网络中,其实卷积操作和全连接操作都是通过矩阵乘法实现的(在视频中有详细介绍,im2col过程),而矩阵的乘法实际就是若干向量内积。那么我们如果将卷积层的输入特征图设为S,输出特征图设为T,且两个特征图的维度分别为
S ∈ R d s × d s × C s , T ∈ R d t × d t × C t S\in \mathbb{R}^{d_{s}\times d_{s}\times C_{s}},T\in \mathbb{R}^{d_{t}\times d_{t}\times C_{t}} SRds×ds×Cs,TRdt×dt×Ct
其中 d s d_s ds, d t d_t dt分别为输入、输出特征图的尺寸(这里以正方形图为例), C s C_s Cs, C t C_t Ct分别为输入、输出特征图的通道数,那么对于输出特征图,在 ρ s \rho _{s} ρs位置,第 c t c_t ct个通道的值(标量)可以通过如下计算表示
T p t ( c t ) = ∑ ρ t , ρ s ⟨ W c t , ρ k , S ρ s ⟩ T_{p_{t}}(c_{t})=\sum_{\rho _{t},\rho _{s}}\left \langle W_{c_{t},\rho _{k}},S_{\rho _{s}} \right \rangle Tpt(ct)=ρt,ρsWct,ρk,Sρs
式中 W c t ∈ R d k × d k × C s W_{c_{t}}\in \mathbb{R}^{d_{k}\times d_{k}\times C_{s}} WctRdk×dk×Cs表示第 C t C_t Ct个filter, d k d_k dk表示卷积kernel size的大小。 ρ k , ρ s ∈ R 2 \rho_{k},\rho _{s}\in \mathbb{R}^{2} ρk,ρsR2分别表示卷积参数和输入特征图的2维空间位置, W c t , ρ k , S ρ s ∈ R C s W_{c_{t},\rho _{k}},S_{\rho _{s}}\in \mathbb{R}^{C_{s}} Wct,ρk,SρsRCs,都是向量, ⟨ W c t , ρ k , S ρ s ⟩ \left \langle W_{c_{t},\rho _{k}},S_{\rho _{s}} \right \rangle Wct,ρk,Sρs则表示两个向量的内积,而卷积结果 T ρ t ( C t ) T_{\rho _{t}}(C_{t}) Tρt(Ct)(标量)实际上是 d k × d k d_k×d_k dk×dk个内积的和。(值得注意的是, ρ s \rho _{s} ρs是在输入特征图上取 d k × d k d_k×d_k dk×dk个位置,在累加过程中和 p k p_k pk变化是相同的,也即这个累加的次数为 d k × d k d_k×d_k dk×dk,具体过程在视频中im2col过程有介绍)
而对于全连接层,没有空间位置(spatial)的维度,因此第c_t个通道的值可以通过如下计算表示
T ( C t ) = ⟨ W C t , S ⟩ T(C_{t})=\left \langle W_{C_{t}},S \right \rangle T(Ct)=WCt,S
其中 S ∈ R C s , T ∈ R C t , W C t ∈ R C s S\in \mathbb{R}^{C_{s}},T\in \mathbb{R}^{C_{t}},W_{C_{t}}\in \mathbb{R}^{C_{s}} SRCs,TRCt,WCtRCs,分别表示输入特征图,输出特征图,参数中第 C t C_t Ct个filter

## 乘积量化

乘积量化在估计最近邻居的搜索中广泛应用,且有很好的效果。其思想是将一个特征空间分解成若干子空间的笛卡儿积(直积),其实很简单的概念,比如二维空间(x,y),拆分成两个子空间(x)和(y)。笛卡尔积的公式如下
A ⊗ B = { ( x , y ) ∣ x ∈ A , y ∈ B } A\otimes B=\left \{ (x,y)\mid x\in A,y\in B \right \} AB={(x,y)xA,yB}
而乘积量化并不是仅仅拆分成两个子空间,而是拆分成多个子空间,不过定义是一样的。拆分后对每一个子空间,学习一个码书(用于量化该子空间中的所有向量),那么原特征空间中的任一向量都可以用所有子空间码书中的某个向量,做级联表示。
以图2.1所示,上面的向量为原本特征空间下的特征向量,我们将其拆分成m个子特征空间,如下面每行所示,每一行都对应一个子空间。倘若我们对每一个子空间都学习一个码书(可以看作一堆聚类中心向量,并按顺序排列,带有索引,那么我就可以根据索引来直接引用某一个聚类中心向量)那么每一个子空间中的向量(图2.1中的每一行)都可以用码书中的某一个聚类中心来表示,那么我们直接可以用索引来表示原本的向量就可以了(例如第一行的向量对应可以用第一个码书中的第 k 1 k_1 k1个聚类中心表示,di二行的向量可以用第二个码书中的第 k 2 k_2 k2个聚类中心表示,以此类推…,那么原本的向量就可以表示为 k 1 k_1 k1 k 2 k_2 k2 k m k_m km,这样可以减少存储数据占用的空间,当然我们还是需要额外的空间来存储每个子空间中的码书)。
在这里插入图片描述
图2.1 乘积量化的示意图
在本文中,即利用乘积量化来优化内积计算,假设两个向量分别为 x , y ∈ R D x,y\in \mathbb{R}^{D} x,yRD,首先我们将两个向量都分解成M个子向量,表示为 x m , y m ∈ R D / M x^{m},y^{m}\in \mathbb{R}^{D/M} xm,ymRD/Mm=1,2,…M,同时每个 x m x^m xm都可以用第m个码书中第 k m k_m km个向量表示(这种过程就是量化),那么原内积计算可以表示为
⟨ y , x ⟩ = ∑ m = 1 M ⟨ y m , x m ⟩ ≈ ∑ m = 1 M ⟨ y m , c k m m ⟩ \left \langle y,x \right \rangle=\sum_{m=1}^{M}\left \langle y^{m},x^{m} \right \rangle\approx \sum_{m=1}^{M}\left \langle y^{m},c_{k_{m}}^{m} \right \rangle y,x=m=1Mym,xmm=1Mym,ckmm
如此我们可以将复杂度为O(D)的内积运算转化为M个加法运算(注意,我们预先计算好 y m y^m ym与第m个码书中所有向量的内积)

三.Quantized CNN

在本节将首先详细叙述Quantized CNN的量化过程,分别叙述全连接层和卷积层的量化过程;其次,本文证明通过直接最小化每层的估计误差,可以得到更好的量化,以保证准确率;最后,作者分析了Quantized CNN模型的计算复杂度。
全连接层的量化
对于全连接层,设权重矩阵为 W ∈ R C s × C t W\in \mathbb{R}^{C_{s}\times C_{t}} WRCs×Ct,其中 C s C_s Cs, C t C_t Ct分别表示输入通道数和输出通道数, W c t W_{c_t} Wct表示第 c t c_t ct个filter,即W的第 C t C_t Ct列,如图3.1所示
现在对输入维度 C s C_s Cs拆分成M个子空间,设 C s ′ = C s / M C_{s}^{'}=C_{s}/M Cs=Cs/M,权重矩阵 W = W 1 ⊗ W 2 ⊗ . . . ⊗ W m W=W^{1}\otimes W^{2}\otimes ...\otimes W^{m} W=W1W2...Wm,每个 W C t W_{C_t } WCt拆分成M个子向量,设为 W c t m W_{c_{t}}^{m} Wctm,m=1,2,…,M,如图3.1所示,即每个虚线隔开的就是一个在每一个子空间中(图3.1中Weight Matrix虚线之间的一行)其实由 C t C_t Ct个列向量组成,我们可以对每一个子空间都学习一个码书 B m B^m Bm,包含K个聚类中心,那么对于 W c t m W_{c_{t}}^{m} Wctm,可以用码书中的某个向量来近似表示
D m ∈ R C s ′ × K D^{m}\in \mathbb{R}^{C_{s}^{'}\times K} DmRCs×K
现在子空间中每个向量 W c t m W_{c_{t}}^{m} Wctm都对应于码书矩阵 D m D^m Dm中的一个索引,设索引矩阵为 B m B^m Bm,值为0或1,则有
B m ∈ { 0 , 1 } k × C t B^{m}\in \left \{ 0,1 \right \}^{k\times C_{t}} Bm{0,1}k×Ct
于是对参数矩阵的估计可以表示为
W ~ m = D m B m ≈ W m \tilde{W}^{m}=D^{m}B^{m}\approx W^{m} W~m=DmBmWm
我们希望权重参数的估计误差最小,即最优化目标如下所示,对于该目标函数的求解将在后面(对量化的误差修正)介绍
min ⁡ D ( m ) , { B p k ( m ) } ∑ p k ∥ D ( m ) B p k ( m ) − W p k ( m ) ∥ F 2 s . t . D m ∈ ∈ R C s ′ × K , B m ∈ { 0 , 1 } K × C t \min_{D^{(m)},\left \{ B_{p_{k}}^{(m)} \right \}}\sum_{p_{k}}\left \| D^{(m)}B_{p_{k}}^{(m)}-W_{p_{k}}^{(m)} \right \|_{F}^{2}\\s.t.D^{m}\in \in \mathbb{R}^{C_{s}^{'}\times K},B^{m}\in \left \{ 0,1 \right \}^{K\times C_{t}} minD(m),{Bpk(m)}pkD(m)Bpk(m)Wpk(m)F2s.t.DmRCs×K,Bm{0,1}K×Ct
那么输出特征图即可用码书和索引矩阵来估计,即
T ( C t ) = ∑ m = 1 M ⟨ W C t m , S m ⟩ ≈ ∑ m = 1 M ⟨ D m B c t m , S m ⟩ = ∑ m = 1 M ⟨ D k m ( c t ) m , S m ⟩ T(C_{t})=\sum_{m=1}^{M}\left \langle W_{C_{t}}^{m},S^{m} \right \rangle\approx \sum_{m=1}^{M}\left \langle D^{m}B_{ct}^{m},S^{m} \right \rangle=\sum_{m=1}^{M}\left \langle D_{k_{m}(c_{t})}^{m},S^{m} \right \rangle T(Ct)=m=1MWCtm,Smm=1MDmBctm,Sm=m=1MDkm(ct)m,Sm
式中 B c t m B_{c_{t}}^{m} Bctm表示 W c t m W_{c_{t}}^{m} Wctm向量在码书中的索引(注意 B c t m B_{c_{t}}^{m} Bctm向量是one-hot的形式,索引i即第i位为1,其他位为0组成的向量), k m ( c t ) k_m(c_t ) km(ct)表示 W c t m W_{c_{t}}^{m} Wctm对应码书中的索引, D k m ( c t ) m D_{k_{m}(c_{t})}^{m} Dkm(ct)m即为估计 W C t m W_{C_{t}}^{m} WCtm的向量(注意在实际运算中 ⟨ D k m ( c t ) m , S m ⟩ \left \langle D_{k_{m}(c_{t})}^{m},S^{m} \right \rangle Dkm(ct)m,Sm是提前计算好的,也就是在这一步可以减少计算量)
现在我们来看计算复杂度,若要计算原本全连接层,复杂度为 O ( C s C t ) O(C_s C_t) O(CsCt)(全连接层的计算由 C t C_t Ct个内积组成,每个内积需要计算 C s C_s Cs个乘法和加法),而经过量化后,其复杂度变为 O ( C s K + C t M ) O(C_s K+C_t M) O(CsK+CtM) O ( C s K ) O(C_s K) O(CsK)对应输入向量与码书中所有向量内积的复杂度, O ( C t M ) O(C_t M) O(CtM)对应 C t M C_t M CtM个加法。
在这里插入图片描述
图3.1 全连接层的量化示意图

## 卷积层的量化

对卷积层的量化可以类比对全连接层的量化,但是权重不再是矩阵,而是一个张量W\in R d k × d k × C s \mathbb{R}^{d_{k}\times d_{k}\times C_{s}} Rdk×dk×Cs,同时卷积操作因为滑动窗的缘故,在计算时会有重复计算,属于冗余操作,而这里我们在提前计算输入向量与码书中向量内积的时候是没有冗余的,实际上也可以大大提高计算效率。对于卷积层,量化目标为
min ⁡ D m , B p k m ∑ p k ∥ D m B p k m − W p k m ∥ F 2 s . t . D m ∈ R C s ′ × K , B p k m ∈ { 0 , 1 } K × C t \min_{D^{m},B_{p_{k}}^{m}}\sum_{p_{k}}\left \| D^{m}B_{p_{k}}^{m}-W_{p_{k}}^{m} \right \|_{F}^{2}\\s.t.D^{m}\in \mathbb{R}^{C_{s}^{'}\times K},B_{p_{k}}^{m}\in \left \{ 0,1 \right \}^{K\times C_{t}} minDm,BpkmpkDmBpkmWpkmF2s.t.DmRCs×K,Bpkm{0,1}K×Ct
这里 W p k m ∈ R C S ′ × K W_{p_{k}}^{m}\in \mathbb{R}^{C_{S}^{'}\times K} WpkmRCS×K,表示在 p k p_k pk位置上第m个子空间下的参数(这里可以参考第二节基础中卷积的本质中的部分)对于输出特征图的估计,可以表示为
T p t ( c t ) = ∑ ( p k , p s ) ∑ m = 1 M ⟨ W c t , p k m , S p s m ⟩ ≈ ∑ ( p k , p s ) ∑ m = 1 M ⟨ D m B c t , p k m , S p s m ⟩ = ∑ ( p k , p s ) ∑ m = 1 M ⟨ D k m ( c t , p k ) m , S p s m ⟩ \begin{aligned} T_{pt}(c_{t}) &=\sum_{(p_{k},p_{s})}\sum_{m=1}^{M}\left \langle W_{c_{t},p_{k}}^{m},S_{p_{s}}^{m} \right \rangle \\ &\approx \sum_{(p_{k},p_{s})}\sum_{m=1}^{M}\left \langle D^{m}B_{c_{t},p_{k}}^{m},S_{p_{s}}^{m} \right \rangle \\ &= \sum_{(p_{k},p_{s})}\sum_{m=1}^{M}\left \langle D_{k_{m(c_{t},p_{k})}}^{m},S_{p_{s}}^{m} \right \rangle \end{aligned} Tpt(ct)=(pk,ps)m=1MWct,pkm,Spsm(pk,ps)m=1MDmBct,pkm,Spsm=(pk,ps)m=1MDkm(ct,pk)m,Spsm

## 对量化的误差修正

通过前面介绍的步骤,其实是可以减少参数存储和整体forward的计算量,但是直接学习到的码书和索引其实是有误差的,直接用量化后的模型做预测,其准确率会差很多,所以在这一节里将介绍对码书和索引的调优,以保证准确率。优化目标是最小化输出特征图的重建误差(类似之前pruning那篇论文的优化目标),因为单纯最小化参数量化误差很可能不会对准确率有很大的影响,但是最小化输出特征图的重建误差,就是对准确率的直接优化。
首先我们以全连接层为例,假设我们一共有N张图片,某层的输入,输出特征图分别是 S n S_n Sn, T n T_n Tn,为了最小化输出特征图重建误差,有一下优化目标
min ⁡ { D m } m ′ { B m } m ∑ n = 1 N ∥ T n − ∑ m = 1 M ( D m B m ) T S n m ∥ F 2 \min_{\left \{ D^{m} \right \}_m^{'}\left \{ B^{m} \right \}_{m}}\sum_{n=1}^{N}\left \| T_{n}-\sum_{m=1}^{M}(D^{m}B^{m})^{T}S_{n}^{m} \right \|_{F}^{2} min{Dm}m{Bm}mn=1NTnm=1M(DmBm)TSnmF2 (3.1)

上式中,前一项是该全连接层原本的输出特征图,后一项是经过量化后的输出特征图,注意我们需要优化的是 D m D^m Dm, B m B^m Bm,m=1,2,…,M。 然而 D m D^m Dm, B m B^m Bm对于不同的m,是互补相关的(因为不同的m对应不同的子空间)如果我们一次仅优化一个 D m D^m Dm, B m B^m Bm,那么问题可以得到简化。我们先定义一个变量
R n m = T n − ∑ m ′ = 1 , m ′ ≠ m M ( D m ′ B m ′ ) T S n m ′ R_{n}^{m}=T_{n}-\sum_{m^{'}=1,m^{'}\neq m}^{M}(D^{m^{'}}B^{m^{'}})^{T}S_{n}^{m^{'}} Rnm=Tnm=1,m=mM(DmBm)TSnm
那么当我们仅优化 D m D^m Dm, B m B^m Bm时,式(3.1)可以简化为
min ⁡ D m , B m ∑ n = 1 N ∥ R n m − ( D m B m ) T S n m ∥ F 2 \min_{D^{m},B^{m}}\sum_{n=1}^{N}\left \| R_{n}^{m}-(D^{m}B^{m})^{T}S_{n}^{m} \right \|_{F}^{2} minDm,Bmn=1NRnm(DmBm)TSnmF2 (3.2)

上述优化问题可以通过两步迭代的方式,分别求解 D m D^m Dm B m B^m Bm

## 更新D^m(码书)

在这一步,我们固定 B m B^m Bm(索引),并定义 L k = { C t ∣ B m ( k , C t ) = 1 } L_{k}=\left \{ C_{t}\mid B^{m}(k,C_{t})=1 \right \} Lk={CtBm(k,Ct)=1},因为原本 B m B^m Bm的列向量是oe-hot形式,现在 L k L_k Lk就是 B m B^m Bm列向量中为索引为k的所有向量(注意k表示码书中的索引,最多K个),于是式(3.2)可以写作
min ⁡ { D k m } k ∑ n = 1 N ∑ k = 1 K ∑ C t ∈ L k [ R n m ( C t ) − ( D k m ) T S n m ) ] 2 \min_{\left \{ D_{k}^{m} \right \}_{k}}\sum_{n=1}^{N}\sum_{k=1}^{K}\sum_{C_{t}\in L_{k}}\left [ R_{n}^{m}(C_{t})-(D_{k}^{m})^{T}S_{n}^{m}) \right ]^{2} min{Dkm}kn=1Nk=1KCtLk[Rnm(Ct)(Dkm)TSnm)]2
在这一步,我们同样发现,我们在更新码书中的s个聚类中心时,其实是相互独立的,所以我们可以分别更新 D k m D_{k}^{m} Dkm,k=1,2,…,K,即
min ⁡ D k m ∑ n = 1 N ∑ C t ∈ L k [ R n m ( C t ) − ( D k m ) T S n m ) ] 2 \min_{D_{k}^{m}}\sum_{n=1}^{N}\sum_{C_{t}\in L_{k}}\left [ R_{n}^{m}(C_{t})-(D_{k}^{m})^{T}S_{n}^{m}) \right ]^{2} minDkmn=1NCtLk[Rnm(Ct)(Dkm)TSnm)]2

更新B^m(索引)

在这一步,我们固定 D m D^m Dm(码书),于是式(3.2)可以写作
k m ∗ ( C t ) = a r g m i n k ∑ n = 1 N [ R n m ( C t ) − ( D k m ) T S n m ] 2 k_{m}^{*}(C_{t})=argmin_{k}\sum_{n=1}^{N}\left [ R_{n}^{m}(C_{t})-(D_{k}^{m})^{T}S_{n}^{m} \right ]^{2} km(Ct)=argminkn=1N[Rnm(Ct)(Dkm)TSnm]2

以上是对全连接层码书和索引的优化,而对于卷积层,其方法类似,只是优化函数从式(3.1)变化为
min ⁡ { D m } m ′ { B p k m } m ∑ n = 1 N ∑ p t ∥ T n − ∑ p k p s ∑ m = 1 M ( D m B p k m ) T S n , p s m ∥ F 2 \min_{\left \{ D^{m} \right \}_{m^{'}}\left \{ B_{p_{k}}^{m} \right \}_{m}}\sum_{n=1}^{N}\sum_{p_{t}}\left \| T_{n}-\sum_{p_{k}p_{s}}\sum_{m=1}^{M}(D^{m}B_{p_{k}}^{m})^{T}S_{n,p_{s}}^{m} \right \|_{F}^{2} min{Dm}m{Bpkm}mn=1NptTnpkpsm=1M(DmBpkm)TSn,psmF2 (3.3)
对于具体的优化求解过程,论文的附录中有详细的推导,如果有兴趣的话,可以参考
计算复杂度分析
复杂的分析参见图3.2,分别为计算量与参数存储的计算公式
在这里插入图片描述
图3.2 计算复杂度分析
式中K是码书中聚类中心的个数,M是子空间的个数,通常 K , M ≪ C s , C t K,M≪C_s,C_t K,MCs,Ct

四.实验

作者进行了大量的实验,在MNIST,ILSVRC-12数据集上分别与其他加速压缩方法进行对比,证明了该方法的有效性。
MNIST
实验结果如图4.1所示,通过对比实验,证明了该方法压缩效果与准确率上的优势,在MNIST实验中,作者分别搭建了3层和5层的网络,并设置超参数K=32, C s ′ = 4 C_{s}^{'}=4 Cs=4, C s ′ = C s / M C_{s}^{'}=C_s/M Cs=Cs/M
图4.1中最后一行表示经过码书和索引调优后的模型,倒数第二行表示调优之前的模型,这个实验同时也表明参数调优确实有助于模型准确率的提高。
在这里插入图片描述
图4.1 MNIST数据集上的对比试验

**ILSVRC-12**

在ILSVRC-12数据集上,作者分别对卷积层、全连接层、以及整体网络的量化进行了实验,进一步证明本文提出的方法的有效性
图4.2为对所有卷积层做量化的结果
在这里插入图片描述
图4.2 ILSVRC-12数据集上对所有卷积层做量化
图4.3为对所有全连接层做量化的结果
在这里插入图片描述
图4.3 ILSVRC-12数据集上对所有全连接层做量化
图4.4为对整个网络做量化的结果,在对整个网路的量化实验中,对于AlexNet,CaffeNet,CNN-S网络,作者设定K=128, C s ′ = 8 C_{s}^{'}=8 Cs=8;对于VGG16网络,作者设定K=128, C s ′ = 6 C_{s}^{'}=6 Cs=6
在这里插入图片描述
图4.4 ILSVRC-12数据集上对整个网络做量化
移动设备上的结果
图4.5为作者在移动设备上进行实验得到的结果,作者实验的环境是华为Mate7智能手机,1.8G kirin 925 CPU,无GPU加速

图4.5 移动设备上的实际效果

在这里插入图片描述
参考文献

[1] W. Chen, J. T. Wilson, S. Tyree, K. Q. Weinberger, and Y. Chen.Compressing neural networks with the hashing trick. In International Conference on Machine Learning (ICML), pages 2285–2294, 2015.

[2] D. C. Ciresan, U.Meier, J.Masci, L.M. Gambardella, and J. Schmidhuber.High-performance neural networks for visual object classification.CoRR, abs/1102.0183, 2011.

[3] M. Denil, B. Shakibi, L. Dinh, M. A. Ranzato, and N. de Freitas.Predicting parameters in deep learning. In Advances in Neural Information Processing Systems (NIPS), pages 2148–2156, 2013.

[4] E. L. Denton, W. Zaremba, J. Bruna, Y. LeCun, and R. Fergus. Exploiting linear structure within convolutional networks for efficient evaluation. In Advances in Neural Information Processing Systems(NIPS), pages 1269–1277, 2014.

[5] J. D. Geoffrey Hinton, Oriol Vinyals. Distilling the knowledge in a neural network. CoRR, abs/1503.02531, 2015.

[6] Y. Gong, L. Liu, M. Yang, and L. D. Bourdev. Compressing deep convolutional networks using vector quantization. CoRR,abs/1412.6115, 2014.

[7] S. Han, H. Mao, and W. J. Dally. Deep compression: Compressing deep neural network with pruning, trained quantization and huffman coding. CoRR, abs/1510.00149, 2015.

[8] M. Jaderberg, A. Vedaldi, and A. Zisserman. Speeding up convolutional neural networks with low rank expansions. In British Machine Vision Conference (BMVC), 2014.

[9] V. Lebedev, Y. Ganin, M. Rakhuba, I. V. Oseledets, and V. S. Lempitsky. Speeding-up convolutional neural networks using fine-tuned cp-decomposition. In International Conference on Learning Representations (ICLR), 2015.

[10] V. Lebedev and V. S. Lempitsky. Fast convnets using group-wise brain damage. CoRR, abs/1506.02515, 2015.

[11] S. Srinivas and R. V. Babu. Data-free parameter pruning for deep neural networks. In British Machine Vision Conference (BMVC),pages 31.1–31.12, 2015.

[12] Z. Yang, M. Moczulski, M. Denil, N. de Freitas, A. J. Smola, L. Song, and Z. Wang. Deep fried convnets. CoRR, abs/1412.7149, 2014.

[13] X. Zhang, J. Zou, K. He, and J. Sun. Accelerating very deep convolutional networks for classification and detection. CoRR, abs/1505.06798, 2015.

[14] X. Zhang, J. Zou, X. Ming, K. He, and J. Sun. Efficient and accurate approximations of nonlinear convolutional networks. In IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pages 1984–1992, 2015.

相关推荐