2016, Vol. 48
2. 海军航空工程学院 信息融合研究所, 264001 山东 烟台;
3. 第二炮兵工程大学 士官职业技术教育学院, 262500 山东 青州
2. Research Institute of Information Fusion, Naval Aeronautical and Astronautical University, 264001 Yantai, Shandong, China;
3. Noncommission Officers Vocational and Technical Education College, The Second Artillery Engineering University, 262500 Qingzhou, Shandong, China
基于能量模型的受限玻尔兹曼机RBM(restricted boltzmann machine)[1]以其简单的人工神经网络形式和快速的学习算法，已经广泛应用于数据降维、语音识别和图像处理等多个机器学习领域，进而催生出机器学习一个新的方向——深度学习[2].目前以受限玻尔兹曼机为基础的图像处理方法通常采用两种方式构建模型：一是直接将图像中每一个像素对应于一个可见单元[3]；二是采用向量化的多种特征作为可见单元[4].这两种方式的弊端在于：模型只能处理较小的图像，难以处理大尺度图像；选取的是显式特征，受个人经验影响较大，灵活性差.因此文献[5]提出了卷积受限玻尔兹曼机CRBM(convolutional RBM)，构建了卷积深度信念网络CDBN(convolutional deep belief net)用于提取不同层次的图像表达，在手写字识别和人脸识别中取得了最好结果，但仍然存在计算复杂度高、训练缓慢等问题.
参考目前性能较好的其他神经模型[6-8]，本文提出一种基于改进CRBM的图像特征深度提取方法.首先对CRBM进行改进，设计了图像的补零操作以及CRBM新训练目标，引入稀疏性能较好的交叉熵稀疏惩罚因子抑制CRBM的特征同质化问题；然后提出了均值聚合机制和简化层间关系的深度学习模型——卷积深度玻尔兹曼机CDBM(convolutional deep boltzmann machine).
1 卷积受限玻尔兹曼机 1.1 CRBM模型CRBM是类似于RBM的两层结构.设CRBM可见单元层为NV×NV的二值矩阵V，且包含K个NW×NW的卷积核，则隐单元层由K个大小为NH×NH的特征映射面组成，标记其中第k个特征映射面Hk的卷积核为Wk，偏置为bk.该特征映射面中第i行第j列的隐单元条件激活概率为
|
式中：σ为sigmoid函数，(Wk*V)ij表示卷积核Wk与可见层V中以第i行第j列单元为左上角的大小为NW×NW矩形块卷积.
同理，设定可见单元共享偏置为c，则可见单元层中单元vij的条件激活概率为
|
(1) |
参照文献[5]，CRBM的卷积操作如图 1所示，其中可见单元层中无阴影部分为图像的中间区域Vm(大小为(Nv－2(NW－1))×(Nv－2(NW－1))).
|
图 1 CRBM卷积操作 |
从图 1可以看出，根据式(1)仅仅能够得到Vm区域单元的后验激活概率.对于可见单元层的非中间区域Vb，由于其可见单元参与卷积的次数与Vm不同，因此需要单独对待，且文献[5]忽视了这一问题.
1.2 卷积受限玻尔兹曼机改进针对CRBM模型可见单元重构问题，提出CRBM的3个改进措施.
1.2.1 交叉熵稀疏惩罚因子在RBM对网络连接权值进行学习的过程中，存在的主要问题是特征学习的同质化.由于所有隐单元都是在相互独立的基础上对训练数据进行学习，当训练数据中存在某种共有特征时，隐单元均会受到影响，表现在RBM学习到的连接权值(即数据特征模式)之间的列(对应于每个隐单元)相似度过高，而解决这一问题的方法就是调节隐单元的稀疏性.
文献[9]通过对RBM训练的最大似然目标函数增加稀疏惩罚因子以抑制隐单元的激活概率.但该方法存在的问题是：惩罚因子只对隐单元偏置有影响，且惩罚因子对于隐单元的稀疏化力度随着隐单元平均激活概率的下降而减弱.文献[10]利用交叉熵的概念提出了基于交叉熵的稀疏惩罚因子，取得了优于误差平方和的结果.因此，提出将交叉熵稀疏惩罚因子引入到CRBM训练，即
|
式中：p为稀疏度系数; N为训练样本个数; K为CRBM中卷积核个数; qkn代表第n个样本下的卷积核k对应的特征映射面平均激活概率，即
|
鉴于CRBM可见单元重构的分析，提出通过补零操作将边缘区域Vb纳入到中间区域得到Vm′，从而满足式(1)计算.因此改进后的模型训练目标FTarget由文献[5]的最大化图像似然概率变为最大化补零后图像中间区域似然概率，即
|
式中：Vm′表示新图像中间区域重构数值，尺寸为原始图像大小，避免了文献[5]中图像非中间区域Vb不能通过式(1)直接计算得到的缺陷；Vb′代表新图像的非中间部分，由0组成；Vm′|Vb′表示Vb′保持不变；-PE代表最小化交叉熵稀疏惩罚因子，即使CRBM在学习过程中的特征映射面平均激活概率与p之间的Kullback-Leiber距离最小.
1.2.3 dropout训练方法引入dropout的目的在于防止训练过拟合，其方式为在模型训练时以概率q随机设置网络中若干隐单元权值为0.
2 卷积深度玻尔兹曼机由于单层CRBM提取图像特征能力有限，并为更好形成图像高层特征表达，构建了基于CRBM的深度学习模型——卷积深度玻尔兹曼机(CDBM). CDBM较CDBN的优势在于计算复杂度较小且具有精准的聚合机制以及简洁的层间关联.
2.1 均值聚合机制为使提取出的特征对输入样本具有较高的畸变容忍能力，并增强算法对图像的缩放大小的健壮性，借鉴CNN[11]，对CDBM中增加隐单元聚合机制.
文献[5]提出概率聚合(probabilistic pool)机制，目的在于适应RBM的双向连接结构，但问题是隐单元的聚合计算复杂度较高.文献[12]提出极大值聚合(Max Pool)机制，将block中隐单元的后验激活概率最大值作为聚合层对应点数值，其优势在于有效降低聚合机制的算法复杂度，但缺陷为易忽略图像中的细微特征，而这些特征对于图像识别往往是有效的.
鉴于以上两种聚合机制的优缺点，提出新的聚合机制——均值聚合：将聚合层单元的值定义为对应block中所有隐单元后验激活概率的均值，即
|
(2) |
式中：pαβk表示聚合层中第α行第β列的单元值，C×C为聚合层中block的尺寸.
从式(2)可以看出，均值聚合的计算复杂度远低于概率聚合.为直观显示不同聚合机制差异，以Lena图像为例，生成的聚合图像如图 2所示，其中block大小为4×4.
|
图 2 不同聚合机制下的聚合图像 |
从图 2可以看出，极大值聚合下的图像细节最模糊；而概率聚合和均值聚合图像较为贴近原始图像.采用基于SIFT特征的图像匹配，3幅聚合图像与原始图像之间的特征点匹配关系如表 1所示.
|
表 1 不同聚合图像与原始图像间SIFT特征点匹配个数 |
从表 1数据可以看出，极大值聚合图像与原始图像匹配的特征点数最少，概率聚合与均值聚合数目接近, 且概率聚合图像与均值聚合图像更为接近.结合图 2可证明, 采用概率聚合和均值聚合机制生成的聚合层图像能够保留原始图像较多特征，同时鉴于均值聚合较小的计算复杂度，使用均值聚合机制更具备优势.
2.2 CDBM结构参照CDBN结构，对CDBM模型层间关联进行设计.以6层CDBM为例，其模型结构如图 3所示.模型输入层即L1层为原始图像本身; L2层为低层特征提取层，与L1构成低层CRBM；L3层为聚合层，由L2层特征映射面通过均值聚合机制并相互叠加生成；L3层与L4层构成高层CRBM，完成图像底层特征向高层特征的组合；L5层为L4的聚合合并层，并作为图像特征用于后续处理.与CDBN不同之处在于: CDBN中L3层由多个聚合面组成，其二级CRBM卷积核为三维；CDBM中L3由L2生成的各个聚合面叠加生成，二级CRBM的卷积核为二维.
|
图 3 CDBM结构图 |
由于CDBM中L2-L3与L4-L5间为单向连接，因此CDBM的训练按照逐层贪婪无监督训练[13].即首先对每一级CRBM进行无监督学习，待CRBM达到数据收敛条件或超过训练迭代次数后，固定本层CRBM参数，随后继续下级CRBM训练.
3 实验MNIST数据集为0到9的10个大小为28×28手写数字图像集合，其中训练集个数为60 000，测试集个数为10 000[14].为加速训练和学习，将训练集的每100幅作为一个batch，用于参数更新.实验平台采用安装Matlab(2013a)的主频为2.4 GHz的台式机.
3.1 CRBM训练目标实验本实验采用重构误差作为评价RBM模型训练效果标准，其值是以训练数据作为初始状态，计算经过若干次Gibbs Sample后与原数据的一阶范数差值.为验证改进后新训练目标的学习，设置了如下2种训练过程(模型卷积核个数为24，大小为7×7，隐单元稀疏度系数p=0.05，学习速率η=0.01，循环迭代次数为20).
1) 原始训练过程：以最大化图像重构概率为训练目标，选用误差平方和稀疏惩罚因子.
2) 新训练过程：以最大化补零图像重构概率为训练目标，选用误差平方和稀疏惩罚因子.
2种训练方法过程中的重构误差如图 4所示.
|
图 4 两种训练方法的重构误差对比 |
从图 4可以看出，新训练过程的模型重构误差较低，表明经训练后的CRBM对数据具有更好的似然度.其原因在于新训练过程完成了对原始图像边缘区域的重构，从而降低了模型训练过程中的重构误差.
3.2 稀疏惩罚因子实验为验证不同稀疏惩罚因子对CRBM训练的影响，结合实验1结果，选取新的训练目标函数和相同的模型设置进行CRBM训练. 图 5为在3种不同稀疏惩罚因子下的CRBM卷积核可视化图.
|
图 5 稀疏惩罚因子对于CRBM卷积核影响 |
从图 5可以看出:在没有稀疏惩罚因子的情况下，CRBM出现了严重的特征同质化现象, 绝大多数卷积核相似并且没有对应的特征表现；采用稀疏惩罚因子后，卷积核之间差异变大且都有较为明显的数字笔画部分，证明了稀疏惩罚因子能够有效地避免特征同质化问题；从图 5(b)和图 5(c)对比发现，图 5(b)中仍然存在着个别卷积核相似的现象，图 5(c)的卷积核之间差异变大，说明相较于误差平方和稀疏惩罚因子，在交叉熵稀疏惩罚因子下CRBM学习的特征更局部化，克服CRBM特征同质化的效果较好，证明特征同质化得到进一步弱化.
完成CRBM训练后，选用特征映射面作为手写字特征，采用LIBSVM[15]提供的径向基支持向量机(RBF-SVM)和线性支持向量机(LSVM)作为最终分类器，其中参数设置除了核函数选择不同外，其余均为默认设置，其实验结果如表 2所示.
|
|
表 2 MNIST分类准确率 |
从表 2数据可以看出，采用交叉熵稀疏惩罚因子的CRBM分类准确率最高，而没有采用稀疏惩罚机制的CRBM训练无效，且选用RBF-SVM为分类器的准确率要高于LSVM，其原因在于CRBM中的可见单元通常参与多次卷积运算，这会增强模型训练时原始数据共有特征的影响，因此选用稀疏惩罚较好的交叉熵因子能够改善特征同质化带来的模型特征分辨力差问题.
4 结论CDBM实现了从图像底层特征到高层特征的提取，其过程符合实际的生物神经网络，并且实验结果证明了该模型能够取得良好效果. CDBM通过训练数据进行无监督学习，避免了以往显式的特征抽取，而是对训练数据进行隐式学习，减少了个人经验对图像特征提取的影响.相比于CRBM构建的深度网络CDBN，经优化后的CDBM训练时间更短，并可以有效完成图像特征的提取.今后工作应继续改进CRBM学习算法过程，减少模型训练时间，详细分析模型参数对于训练学习的影响，并将新模型应用到更多领域.
| [1] |
刘建伟, 刘媛, 罗雄麟. 玻尔兹曼机研究进展[J]. 计算机研究与发展, 2014, 51(1): 1-16. DOI:10.7544/issn1000-1239.2014.20121044 |
| [2] |
林妙真. 基于深度学习的人脸识别研究[D]. 大连: 大连理工大学, 2013. http://cdmd.cnki.com.cn/Article/CDMD-10141-1013198327.htm
|
| [3] |
LAROCHELLE H, ERHAN D, COURVILLE A, et al. An empirical evaluation of deep architectures on problems with many factors of variation[C]//Proceedings of the 24th international conference on Machine learning. New York: ACM, 2007: 473-480.
|
| [4] |
SRIVASTAVA N, SALAKHUTDINOV R. Multimodal learning with deep boltzmann machines[C]//Advances in neural information processing systems 2012. New York: ACM, 2012: 2222-2230.
|
| [5] |
LEE H, GROSSE R, RANGANATH R, et al. Convolutional deep belief networks for scalable unsupervised learning of hierarchical representations[C]//Proceedings of the 26th Annual International Conference on Machine Learning. New York: ACM, 2009: 609-616.
|
| [6] |
GOODFELLOW I, WARDE-FARLEY D, MIRZA M, et al. Maxout Networks[C]//Proceedings of the 30th International Conference on Machine Learning. Piscataway. NJ: IEEE, 2013: 1319-1327.
|
| [7] |
CIRESAN D C, MEIER U, MASCI J, et al. Flexible, high performance convolutional neural networks for image classification[C]//Proceedings International Joint Conference on Artificial Intelligence 2011. New York: ACM, 2011: 22(1). 1237-1239.
|
| [8] |
CIRESAN D, MEIER U, SCHMIDHUBER J. Multi-column deep neural networks for image classification[C]//IEEE Conference on Computer Vision and Pattern Recognition 2012. Piscataway, NJ: IEEE, 2012: 3642-3649.
|
| [9] |
LEE H, EKANADHAM C, NG A Y. Sparse deep belief net model for visual area V2[C]//Advances in Neural Information Processing Systems 2008. New York: ACM, 2008: 873-880.
|
| [10] |
HINTON G. A practical guide to training restricted boltzmann machines[M]. Berlin: Springer Berlin Heidelberg, 2012: 599-619.
|
| [11] |
LAWRENCE S, GILES C L, TSOI A C, et al. Face recognition:A convolutional neural-network approach[J]. IEEE Transactions on Neural Networks, 1997, 8(1): 98-113. DOI:10.1109/72.554195 |
| [12] |
NOROUZI M. Convolutional restricted boltzmann machines for feature learning[D]. Vancouver: School of Computing Science-Simon Fraser University, 2009.
|
| [13] |
LE Q V. Building high-level features using large scale unsupervised learning[C]//Conference on Acoustics, Speech and Signal Processing. Piscataway, NJ: IEEE, 2013: 8595-8598.
|
| [14] |
LIU C L, NAKASHIMA K, SAKO H. Handwritten digit recognition:benchmarking of state-of-the-art techniques[J]. Pattern Recognition, 2003, 36(10): 2271-2285. DOI:10.1016/S0031-3203(03)00085-2 |
| [15] |
CHANG C C, LIN C J. LIBSVM:a library for support vector machines[J]. ACM Transactions on Intelligent Systems and Technology, 2011, 2(3): 27-31. |