基于堆栈降噪自编码器和LBP的人脸识别算法
Face Recognition Algorithm Based on Stack Denoising Autoencoders and LBP

作者: 刘晓敏 * , 艾震鹏 :广东工业大学应用数学学院,广东 广州;

关键词: 人脸识别局部二值模式堆栈式降噪自编码器支持向量机Face Recognition Local Binary Patter Stack Denoising Autoencoders Support Vector Machine

摘要:
针对传统的人脸识别算法的鲁棒性弱,分类准确率不高,运算速率较慢的缺点,基于局部二值模式(Local Binary Pattern)和堆栈式降噪自编码器(Stack Denoising Autoencoders)模型,提出了一种LBP + SDAE新的人脸表情识别算法。首先,先对图像进行直方图均衡化处理,用LBP提取特征,接着进行尺度归一化处理后用SDAE二次提取特征并且去噪,降维,最后用SVM分类。该方法不仅提高了分类的准确率,而且加快了运算的速率。在数据集Yale上进行验证,表明相对于以前传统的人脸识别算法,它具有更高的准确率和较强的鲁棒性。

Abstract: In view of the weak robustness of the traditional face recognition algorithm, the low accuracy of classification and the slow operation rate, this paper proposes a new LBP + SDAE facial expression recognition algorithm, which is based on Local Binary Pattern and Stack Denoising Autoencoders. First, the image is processed by histogram equalization and the feature is extracted with LBP. Then, the scale normalization is followed by using SDA to extract the feature again, to reduce image denoising and dimensionality. Finally, the SVM algorithm was selected as classifier for the recognition of images. This method not only improves the accuracy of classification, but also accelerates the computation speed. The YALE face database was used to test the proposed method. The experiment results show that it has higher accuracy and robustness compared with the traditional face recognition algorithm.

1. 引言

人脸识别 [1] 技术于20世纪50年代开始研究,就是利用计算机对人脸特征进行学习提取有效个人信息的识别技术,它被广泛应用在实际生活当中,如监控系统,智能支付系统,公安系统,银行安全,个人身份验证等。人脸识别技术的研究,一直被广大学者所关注,也是最热门的研究方向。过去的几十年里,众多学者提出人脸识别的方法有:基于模板匹配的方法 [2] [3] ,基于奇异值特征方法 [4] ,子空间分析法 [5] ,主成分分析(PCA) [6] ,支持向量机(SVM) [7] ,隐形马尔科夫模型 [8] 以及近几年兴起的深度学习(Deep Learning)等等 [9] 。深度学习 [10] 有几大重要模型,如:自动编码器(AE),受限波尔兹曼机(RBM),深度置信网络(DBN),卷积神经网络(CNN)等。近几年,国际上很多项目都将深度学习应用到人脸识别中,例如:Deep Face、Deep ID、Face Net等,都取得了相当高的准确率。但是,对于实际应用中的光照,角度,抖动,模糊,遮挡,分辨率,或者年龄变化,化妆整容等影响,还没有得到根本的解决,仍需继续做更深入的研究。

本文利用LBP和SDAE相结合,提出了一种基于深度学习的人脸识别算法。该算法融合了LBP [11] 算法可消除光照和角度等因素影响以及计算简单,效率高的优点和SDAE [12] 算法快速提取特征,有效去除噪声的优点,既提高了算法分类的准确率,又加快了运算的速率和模型的鲁棒性。

2. 局部二值模式

2.1. 原始LBP算子

局部二值模式(Local Binary Pattern),简称LBP,是一种用来描述图像局部特征的算子,它具有灰度不变性,旋转不变性,计算简易性等优点以及能够去除光照,角度等的影响,捕捉人脸的容貌和纹理细节的特点,使得其被广泛研究和使用,在人脸识别中至关重要。

LBP的算法思想就是利用局部的结构提取窗口特征,再利用统计直方图取得整体特征。如图1所示,LBP是定义在一个3 * 3的领域内,以中心像素的灰度值为阈值,与其相邻的其余8个像素灰度值作比较,若相邻的像素灰度值比中心的像素灰度值大,则标记为1,否则为0。接着按顺序依次排列,转化成一个8位数的二进制数,相对应的十进制就是中心像素的LBP值。那么,这里的二进制数为01101001,对应的十进制数为105,也就是说这个中心像素的LBP值为105。这个LBP值就表示了图像的局部纹理特征。

2.2. 圆形LBP算子

为了使LBP保持灰度不变性和旋转不变性的优点以及适应不同尺寸的区域纹理特征,将正方形邻域替换成圆形邻域,即将3 × 3邻域拓展到任意邻域。改进后的LBP算子允许在半径为R的圆形邻域内有任意多个像素点,符号 L B P P R 表示在半径为R的圆形邻域内有P个像素点,如图2所示。

通过将图片读取,可以将原始的图像转化为LBP图像。值得注意的是,我们要先将原始的图像划分为若干个子区域,这样每个LBP特征相对应于每个子区域内的每个像素点,然后在每个子区域内建立LBP特征的统计直方图,最后由所有子区域的统计直方图组成整个图像的统计直方图,从而获得图像的所有特征,里面包含了图像的纹理信息。

3. 自编码器的基本模型

3.1. 自编码器

像单隐层这类的浅层神经网络训练能力是有限的,需要消耗大量的时间来获取特征。因此,为了减少训练时间,提出了深度神经网络。其中,自编码器(Autoencoder)就是一种无监督的深度学习方法,它可以从原始的训练数据X里学习得到的特征。

自编码器的基本结构是:输入层,隐层,输出层,如图3所示。输入层的每一个样本 x i 都来自训练样本 D = { x 1 , x 2 , , x n 1 , x n } ,这里的i和n分别是训练样本D中的第i个样本和训练样本D的维数为n。我们把从输入层X过渡到隐层H的这部分叫做编码层,定义为:

Z = f ( W 1 X + b 1 ) (1)

其中, W 1 是权重, b 1 是偏置,f是激活函数,Z是获取的特征。

同样的,我们把从隐层H过渡到输出层Y的这部分叫做解码层,定义为:

Y = g ( W 2 Z + b 2 ) (2)

其中, W 2 是权重, b 2 是偏置,g是激活函数。

Figure 1. A field of 3 * 3 in LBP

图1. LBP的一个3 * 3的领域

LBP162 LBP82

Figure 2. A circular field of LBP

图2. LBP的一个圆形领域

Figure 3. An autoencoder with 1 layer of hidden layers

图3. 隐层数为1层的自动编码器

在自动编码器中,当输入层的结点个数大于隐层的结点个数,这就起到了降维的作用;当输入层的结点个数小于隐层的结点个数,这一般用于稀疏自动编码。编码层的目的是获取特征,解码层的目的就是重构输入层,使输出的Y尽可能的与输入的X对等(即 X Y )。因此,自编码器的主要问题就是找到一组参数 θ = { W 1 , b 1 , W 2 , b 2 } ,使Y (即重构后的X)与原始的X之间的误差足够小。这个参数 θ 是由反向传播进行调整的,与标准的多层感知机的神经网络训练类似。由于训练样本的不同,我们有很多种计算误差的方法。对于二值神经网络,也就是输入层的每个结点只能取0或1,那么使用交叉熵(Cross Entropy)来定义损失函数,即:

L ( x , y ) = i = 1 n [ x i log y i + ( 1 x i ) log ( 1 y i ) ] (3)

如果输入的结点是一个任意的实数,则采用平方误差(squared error)来定义损失函数,即:

L ( x , y ) = x y 2 (4)

本文采用的是平方误差来定义损失函数,因此自编码器的主要问题可以表示为:

min L ( x , y ) = x y 2 (5)

很多时候,为了防止过拟合,我们一般会在权重添加惩罚因子 λ 来控制权重的大小,因此,自编码器的主要问题还可以表示为:

min L ( x , y ) = x y 2 + λ 2 W 2 (6)

其中,W是 W 1 W 2 的组合, λ 是正则化系数。

3.2. 降噪自动编码器

由于训练样本的数据量和模型的复杂度等问题,初始的自动编码模型很容易会出现过拟合现象,因此,为了增强自动编码器的鲁棒性,提高模型的泛化能力,Bengio在2008年提出了降噪自动编码器(Denoising Autoencoder)。降噪自动编码器的关键就是在输入层与隐层之间添加噪声处理,具体的网络结构,如图4所示。

在降噪自动编码器中,我们将原始的输入数据X添加噪声变成 X ¯ ,然后将带有噪声的 X ¯ 进行自动编码器常规的变换工作。值得注意的是,降噪自动编码仍然是尽量的还原的X,因此它的误差计算是:

min L ( x , y ) = x y 2 (而不是 min L ( x ¯ , y ) = x ¯ y 2 ) (7)

Figure 4. Denoising autoencoder

图4. 降噪自动编码器

其中,从输入层X到噪声层 X ¯ 的处理方式有很多,最常用的有两种:mask noise,首先设置一个噪声阈值p ( 0 < p < 1 ),每次生成一个浮点数r ( 0 < r < 1 ),若满足 r < p ,令 x i ¯ 为0,否则令 x i ¯ x i ;Gaussian noise,它满足:

x i ¯ = x i + N o r m a l ( 0 , 1 ) (8)

与自动编码器对比,经降噪自动编码器训练后的训练数据噪声权重较小,而且在一定程度上训练数据更接近测试数据了。从而,提高了模型的鲁棒性。

3.3. 堆栈自编码器

堆栈自编码器(Stack Autoencoder) [13] [14] 就是将多个自编码器进行叠加,利用上一层的隐层作为下一层的输入层,通过逐层非监督学习的预训练来初始化深度网络的参数,从而提升收敛速度和获取更高级的特征。简单来说,每一个自编码对应于一个隐层。深度网络的第一层就是将原始训练数据作为输入转化成隐层,通过自编码器的训练重构误差最小化来确定其参数;接着将隐层作为下一层的输入,继续通过自编码器的训练重构误差最小化来确定这层参数。以此类推,上一层的隐层都是下一层的输入,并且通过重构误差最小化来确定好每层的参数,这就是堆栈自编码器一个很重要的应用。

图5所示,利用两个自动编码器构建一个二层的堆栈自编码。首先,第一个自动编码器对应的就是第一层隐层Z,以原始的训练数据作为输入层X,输出层Y为输入层X的重构,通过重构误差最小化,即求最小损失函数获得参数:

θ = { W 11 , b 11 , W 12 , b 12 } (9)

接着,第二个自动编码器对应的就是第二层隐层T,以上一层的隐层Z作为输入层,输出层S为输入层 的重构,通过重构误差最小化获得参数 θ = { W 21 , b 21 , W 22 , b 22 } 。最后,舍去输出层S,在隐层T后接上SVM分类器,达到分类效果,输出O。堆栈自编码就是从左往右逐层训练每一个自编码器,用训练后的最优参数作为神经网络的初始化参数,完成预训练后还可以通过反向传播算法来调整所有层的参数,这个我们把它叫做“微调”。

考虑到模型的鲁棒性和泛化能力,本文将多个降噪自编码器叠加起来,也就是栈式降噪自编码器(Stack Denoising Autoencoders)。

4. 支持向量机

支持向量机(Support Vector Machine) [15] 是由统计学习理论发展起来的一种机器学习算法,在1995年被Corinna Cortes和Vapnik等人首次提出的,接着在国际上迅速发展并且得到重视。跟以往的算法相比,SVM凸显出许多特有的优势,如:在解决小样本、非线性及高维模式识别中,它能够在很大程度上

Figure 5. Stack autoencoder

图5. 栈式降噪自编码器

解决“维数灾难”和“过拟合”等问题。人脸识别是典型的小样本问题和非线性分类问题,故 SVM在人脸识别中被广泛应用。

SVM的算法思想就是找到一个最优分类超平面,在满足分类要求和分类精度的条件下,使得训练样本和超平面的距离最大化。以两类数据分类为例,假定有训练样本集 ( x 1 , y 1 ) , ( x 2 , y 2 ) , , ( x n , y n ) x i R d y i { + 1 , 1 } ,其中每个样本是d维向量,y是类别标号, w 1 类用+1表示, w 2 类用-1表示。若这些样本是线性可分的,则存在超平面:

g ( x ) = ( w x ) + b = w T + b = 0 (10)

其中,这里的 w R d 是线性判别函数的权值,b是其中的常数项。

为了使所有 个样本都可以被超平面正确的分开,那么就要满足:

y i [ ( w x i ) + b ] 1 , i = 1 , 2 , , N (11)

其中, g ( x ) = 1 g ( x ) = 1 就是过两类中各自离分类面最近的样本且与分类面平行的两个边界超平面。

因为要限制两类分类面最近的样本 g ( x ) = 1 g ( x ) = 1 ,所以分类间隔就是 M = 2 w 。于是,引入一个拉格朗日系数 α i 0 , i = 1 , 2 , , N ,求解最优超平面的问题就转化为:

min w , b max α L ( w , b , α ) = 1 2 ( w w ) i = 1 N α i { y i [ ( w x i ) + b ] 1 } (12)

其中, L ( w , b , α ) 是拉格朗日泛函。

最优超平面问题的解在 L ( w , b , α ) 的鞍点上取得,满足对w和b的偏导数为零,通过求对偶问题的解可得:

f ( x ) = sgn { g ( x ) } = sgn { ( w * x ) + b } = sgn { i = 1 N α i y i ( x i x ) + b * } (13)

其中, w = i = 1 N α i y i x i

若样本集是非线性可分,就是说:

y i [ ( w x i ) + b ] 1 0 , i = 1 , 2 , , N (14)

式子(14)不可能被所有样本同时满足,因此引入松弛因子 ξ i 后约束条件变为:

y i [ ( w x i ) + b ] 1 + ξ i 0 , i = 1 , 2 , , N (15)

如果样本 x i 分类正确,则 ξ i = 0 ,否则 ξ i > 0 。那么最优分类面的目标函数是:

min w , b 1 2 ( w w ) + C ( i = 1 N ξ i ) (16)

求解最优分类面的问题就转化为:

min w , b , ξ i max α L ( w , b , α ) = 1 2 ( w w ) + C i = 1 N ξ i i = 1 N α i { y i [ ( w x i ) + b ] 1 + ξ i } i = 1 N γ i ξ i (17)

其中, α i 0 ξ i 0 是拉格朗日乘子,C是惩罚因子。

同样地,通过求对偶问题的解可得:

f ( x ) = sgn { g ( x ) } = sgn { ( w * x ) + b } = sgn { i = 1 N α i y i ( x i x ) + b * } (18)

其中,这里的内积运算 ( x i x ) 等价于核函数 K ( x i x j )

常用的核函数有:

多项式核函数: K ( x , x ) = ( ( x , x ) + 1 ) q ,采用这种核函数的SVM实现的是q阶的多项式判别函数。

径向基核函数: K ( x , x ) = exp ( x x 2 σ 2 ) ,采用这种核函数的SVM实现的是与径向基网络形式相同的决策函数。

Sigmoid函数: K ( x , x ) = tanh ( v ( x x ) + c ) ,采用这种核函数的SVM实现的是在 和 满足一定取值条件下等价与包含一个隐层的多层感知机神经网络。

5. 仿真和算法过程

5.1. 在Yale Face Database上的实验

本实验使用YALE人脸库作为数据集,Yale Face Database是由10组图片,每组图片包含64张图片,一共640张图所组成的,大小是192像素 * 168像素。其中,图像的光照角度和强度有着不同程度的变化。我们将数据集中每组图的64张图,采取随机抽样,选取48张作为训练集,另外的16张作为测试集。所以,训练集一共有480张人脸图像样本,测试集一共有160张人脸图像样本。

5.2. 算法过程

5.2.1. 图像预处理

本文采用的预处理办法是LBP和直方图均衡。因为使用LBP和直方图均衡后,可以去除光照对灰度的影响,增强对比度以及锐化图像,使人脸的特征更加鲜明,提高人脸的辨识度。图6为原图和预处理后的图。使用圆形LBP算子,其中半径R为3,采样点数目为 3 * 8 = 24

5.2.2. 栈式降噪自编码器提取人脸特征

经过SDA处理的训练集,先编码再解码,使得误差最小化,并且去除噪声对训练集的影响。实验使用3层的堆栈降噪自动编码机,第一层1024个神经元,第二层128个神经元,第三层16个神经元,这样每个人脸样本的特征向量由32,256维降到16维,那么这16维特征向量就可以代表该人脸的样本。

5.2.3. 构建多类SVM及核函数的选择

我们采用多类SVM分类器,用 n = 10 类样本构建 n ( n 1 ) 2 个分类器,核函数选择的是径向基核函数(RBF),因此得到的支持向量机是一种径向基核函数分类器。

5.2.4. 实验结果

表1中,我们可以明确得知,仅仅使用LBP模型对图片进行处理,识别的正确率只有57.1%;如果仅使用SDA模型对图片进行处理,识别的准确率也只有80.67%;如果使用LBP + PCA模型对图片进行处理,识别的准确率已经有87.6%;如果使用本文模型(LBP + SDA)对图片进行处理,识别的准确率高达92.56%。因此,通过与上述几种模型的对比,本文提出的LBP + SDA算法相对更优。

5.3. 实验分析

1) 用LBP算法,可以去除光照和角度的影响,增强了图像的特征,提高了识别率;

2) 使用SDA算法,可以快速降维,把特征向量从32,256维降到16维,这样提高了运算率和识别率。

Figure 5. Face contrast after preprocessing

图5. 预处理后的人脸对比

Table 1. Comparison of the recognition rate of the model

表1. 模型的识别率对比

6. 结论

本文结合LBP,SDA算法与SVM的特点,提出了基于SDA和LBP的人脸识别算法,并在YALE人脸库上做了仿真实验,结果表明提高了人脸的识别率,加快了运算的速率以及增强模型的鲁棒性。在进一步的学习过程中,我们可以在抖动,遮挡,分辨率等的影响下,探讨如何提高人脸的识别率。

基金项目

广州市科技计划资助项目(201707010435)。

文章引用: 刘晓敏 , 艾震鹏 (2018) 基于堆栈降噪自编码器和LBP的人脸识别算法。 计算机科学与应用, 8, 867-876. doi: 10.12677/CSA.2018.86096

参考文献

[1] Yu, Z., Liu, F., Liao, R.T., et al. (2018) Improvement of Face Recognition Algorithm Based on Neural Network. 2018 10th Interna-tional Conference on Measuring Technology and Mechatronics Automation (ICMTMA), Changsha, 10-11 February 2018.
https://doi.org/10.1109/ICMTMA.2018.00062

[2] Chen, A.P., Pan, L. Tong, Y.B. and Ning, N.. (2010) Face Detection Tech-nology Based on Skin Color Segmentation and Template Matching. IEEE 2nd International Workshop on Education Technology and Computer Science, Wuhan, 6-7 March 2010, 708-711.
https://doi.org/10.1109/ETCS.2010.465

[3] Tian, J. and Zheng, Y.Z. (2008) Application of Template Matching Technology in Image Recognition. Sensors and Microsystems, 27, 112-114.

[4] He, G. and Gan, J. (2004) A Method for Singular Value Feature Extraction of Face Image. Proceedings of 2004 International Symposium on Intel-ligent Multimedia, Video and Speech Processing, Hong Kong, 20-22 October 2005, 37-40.
https://doi.org/10.1109/ISIMP.2004.1433994

[5] Lu, Y. and Tian, Q. (2009) Discriminant Subspace Analysis: An Adaptive Approach for Image Classification. IEEE Transactions on Multimedia, 11, 1289-1300.
https://doi.org/10.1109/TMM.2009.2030632

[6] Siwek, K. and Osowski, S. (2017) Autoencoder versus PCA in Face Recogni-tion. 2017 18th International Conference on Computational Problems of Electrical Engineering (CPEE), Kutna Hora, 11-13 September 2017, 1-4.
https://doi.org/10.1109/CPEE.2017.8093043

[7] Senthilkumar, R. and Gnanamurthy, R.K. (2017) Performance Improvement in Classification Rate of Appearance Based Statistical Face Recognition Methods Using SVM Classifier. 2017 4th International Confer-ence on Advanced Computing and Communication Systems (ICACCS), Coimbatore, 6-7 January 2017, 1-7.
https://doi.org/10.1109/ICACCS.2017.8014584

[8] Sun, Z.P. and Sun, J.G. (2010) Face Recognition Based on Fractal and Hidden Markov Model. 2010 3rd International Symposium on Electronic Commerce and Security (ISECS), Guangzhou, 29-31 July 2010.
https://doi.org/10.1109/ISECS.2010.71

[9] Kumar, V., Kalitin, D. and Tiwari, P. (2017) Unsupervised Learning Dimensionality Reduction Algorithm PCA for Face Recognition. 2017 International Conference on. Computing, Communication and Automation (ICCCA), Greater Noida, 5-6 May 2017.
https://doi.org/10.1109/CCAA.2017.8229826

[10] Lecun, Y., Bengio, Y. and Hinton, G. (2015) Deep Learning. Nature, 521, 436-444.
https://doi.org/10.1038/nature14539

[11] Sujay, S.H.S., Reddy, M. and Ravi, J. (2017) Face Recognition Using Extended LBP Features and Multilevel SVM Classifier. 2017 International Conference on Electrical, Electronics, Communication, Computer, and Optimization Techniques (ICEECCOT), Mysuru, 15-16 December 2017.
https://doi.org/10.1109/ICEECCOT.2017.8284596

[12] Xu, Z. and Fu, T. (2017) A Modulation Classification Method in Cogni-tive Radios System Using Stacked Denoising Sparse Autoencoder. IEEE Radio and Wireless Symposium (RWS), Phoenix, AZ, 15-18 January 2017, 218-220.

[13] Jiang, L., Ge, Z. and Song, Z. (2017) Semi-Supervised Fault Classification Based on Dynamic Sparse Stacked Auto-Encoders Model. Chemometrics & Intelligent Laboratory Systems, 168, 72-83.
https://doi.org/10.1016/j.chemolab.2017.06.010

[14] Zhang, S., Wang, J., Tao, X., et al. (2016) Constructing Deep Sparse Cod-ing Network for Image Classification. Pattern Recognition, 64, 130-140.
https://doi.org/10.1016/j.patcog.2016.10.032

[15] Ejaz, U.H., Xu, H.R. and Muhammad, I. (2017) Face Recognition by SVM Using Local Binary Patterns. IEEE Web Information Systems and Applications Conference (WISA), Liuzhou, 11-12 November 2017, 172-175.

分享
Top