图像与信号处理  >> Vol. 9 No. 1 (January 2020)

车载摄像头脏污识别方法
Methods of Vehicle Camera Dirty Identification

DOI: 10.12677/JISP.2020.91002, PDF, HTML, XML, 下载: 282  浏览: 1,016 

作者: 高 宇, 吴志军:同济大学汽车学院,上海

关键词: 智能驾驶无参考图像质量清晰度IDAS No Reference Image Quality Definition

摘要: 摄像头表面脏污引起的图像质量下降,会造成图像识别算法精度降低,最终对智能汽车驾驶安全造成很大的影响。汽车在实际道路行驶过程中拍摄到的图像都是无参考图像,本文将无参考图像质量评价方法中的相关系数、边缘信息、频域能量和平均信息熵等方法引入到道路图像的识别中,对在道路上获取的清晰序列和脏污序列图像进行判别,结果表明,该方法对清晰图像和脏污图像具有一定的区分能力。
Abstract: The degradation of image quality caused by dirty in lens surface will reduce the accuracy of image recognition algorithm, which eventually has a great impact on the driving safety of intelligent driving assistance system (IDAS). Images captured on the road are no reference images. In this article, methods of no reference image quality assessment such as correlation coefficient, edge information, frequency domain energy and average information entropy will be used in the image recognition. Those methods are used to distinguish the clear images and dirty images obtained on the road. The results show that those methods have a certain degree of distinction between clear images and dirty images.

文章引用: 高宇, 吴志军. 车载摄像头脏污识别方法[J]. 图像与信号处理, 2020, 9(1): 8-17. https://doi.org/10.12677/JISP.2020.91002

1. 引言

智能汽车是在普通汽车的基础上增加了先进的传感器(雷达、摄像)、控制器、执行器等装置,使车辆具备智能的环境感知能力,能够自动分析车辆行驶的安全及危险状态,并自动地对车辆的行驶状态做出调整。和传统汽车相比,智能汽车在节能减排、交通安全、缓解交通堵塞方面具有很大的优势,是汽车未来发展的趋势。

智能汽车的传感器大多都暴露在车辆外部,在一些极端路况下行驶会受到不同程度的污染。以摄像头为例,当汽车行驶在泥泞路段上时,路面上的泥浆很容易飞溅到摄像头表面,造成摄像头污染,被污染后的摄像头拍摄到的图像清晰度下降,难以反应真实的路况信息,这些错误的信息传输到控制单元后,汽车会做出错误的判断,容易引发交通事故。所以摄像头的清洗功能对智能汽车的安全驾驶尤为重要,但目前在智能驾驶图像识别算法中还没有专门针对脏污图像的识别方法,仅靠驾驶员的主观判断。在摄像头表面受污染的过程中,相机所拍摄到的图像由清晰变模糊,所以可以采用模糊图像识别的方法来判断摄像头是否受到污染。

目前对于模糊图像的识别方法主要分为两大类 [1],一类是主观评价方法,由一位观测者对一张图像的模糊程度进行评价,这种方法稳定性较高,但是该方法效率低下,而且需要观测者做出判断,无法嵌入到其他系统中,所以在实际应用中较少。另一类方法是客观评价方法,通过特定的算法对图像质量进行评价,该类方法速度快,效率高,而且可以和其他系统结合,也是当今研究的重点。按照有无参考图像,客观评价方法又可分为全参考方法、部分参考方法和无参考方法。全参考方法需要先选定一张参考图像,再基于统计学原理得到目标图像和参考图像之间的一些统计量误差值,如对应位置像素值的均方误差和整张图像的信噪比峰值,再根据这些误差值对目标图像的模糊程度做出判断,这种方法对参考图像的要求较为严格,稳定性较低。无参考方法不需要参考图像,只需要从目标图像中提取一些特征值信息,如图像的边缘信息、图像的频域能量和图像的信息熵,通过这些特征值的大小来判断图像的模糊程度。半参考方法介于全参考方法和无参考方法之间,在评价过程中需要用到一张参考图像,但是只使用参考图像中的部分信息和目标图像比较。

在实际应用中,车载摄像头拍摄到的图像都是不断变化的,而且路况信息复杂多变,很难找到合适的参考图像,所以本文主要研究了无参考图像模糊识别方法在车载图像识别方面的应用,通过提取相关系数、边缘信息、频域能量和平均信息熵等特征值自动识别摄像头表面是否干净。

2. 图像获取及预处理

2.1. 实验图像获取

为了获取车辆行驶过程中实际道路的连续图像,本文使用佳能600D数码相机进行了道路图像采集,测试者在行驶中的车辆副驾驶位置上使用相机正对车辆正前方拍照。在拍摄过程中,分别将一块如图1(a)所示的干净亚克力板和如图1(b)所示的涂有泥浆的亚克力板固定于相机镜头前方,并保持相机的焦距、感光度、光圈值、曝光时间等参数不变,获得了如图2所示的清晰图像和如图3所示的模糊图像序列。

Figure 1. Acrylic plate placed in front of the camera: (a) Clear acrylic plate; (b) Dirty acrylic plate

图1. 置于相机前方的亚克力板:(a)干净的亚克力板;(b)涂抹泥浆后的亚克力板

图2中可以看出,将干净的亚克力板置于镜头前方后,相机拍摄到的图像仍然是非常清晰的,所以可以排除亚克力板对图像质量的影响。

Figure 2. Clear image sequence

图2. 清晰图像序列

图3中可以看出,将涂有泥浆的亚克力板置于镜头前方后,相机拍摄到的图像非常模糊,图像中很多信息都难以识别出来,并且尽管亚克力板上泥浆的面积非常小,但是在相机所拍摄到的图像中,泥浆覆盖的面积占了图像很大一部分面积,严重影响了图像的清晰度。

Figure 3. Dirty image sequence

图3. 脏污图像序列

2.2. 图像预处理

数码相机拍摄到的图像是彩色图像,在进行图像质量评价之前,为了减少计算量,在提取相关系数、边缘信息、频域能量和平均信息熵等特征值之前,需要对图像进行灰度化处理,并对图像进行降噪处理。考虑到对车载图像的实时判断,本文选择了运算速度较快的平均值法对图像进行灰度化处理,采用中值滤波法对图像进行降噪处理。

3. 算法实现

3.1. 图像相关性检测

在车辆正常行驶过程中,摄像头所拍摄到的图像是不断变化的。但是当摄像头表面受到污染后,污染物和车辆始终保持相对静止,在图像中的位置始终不动。所以可以采用相关系数法对图像进行评价,选取多张连续的图片序列,如果多张图片存在相关性较大区域,则该区域有可能是摄像头拍摄到的污染物。本文选取了图像的强度相关性和结构相关性 [2] [3] [4] [5] 来对连续图像序列的质量进行评价。

强度相关性的研究对象是图像中某一像素点的像素值,在相机所拍摄到的图像中,像素值较低的点一般有两种可能,第一种是由于光强和物体本身材质导致物体像素值较低,第二种是当相机镜头表面有脏污物质时,光线不能穿透脏污覆盖的区域导致物体像素值较低。第一种情况在实际行驶过程中出现的频率很高,但持续时间很短。基于这一特性,本文主要研究第二种情况下镜头污染情况的判别算法,分别求得多张图像中同一位置像素值的平均值和标准差来判断镜头表面是否有泥浆覆盖。

为了统一度量单位使之具有可比性,本文通过式(1)对图像序列中同一个位置的像素值的平均值和标准差进行标准化处理,构建了平均值矩阵A和标准差矩阵S,并且绘制出如图4所示的像素平均值图像和图5的像素值标准差图像,图中颜色越深,代表像素值的平均值或者标准差越小。

r k = m n ( A k , m n A k ¯ ) ( A k 1 , m n A k 1 ¯ ) ( m n ( A k , m n A k ¯ ) 2 ) ( m n ( A k 1 , m n A k 1 ¯ ) 2 ) A ¯ (1)

式中:y为标准化之后的像素值平均值或标准差;x为原始的像素值平均值或标准差;xmax为原始像素值平均值或标准差的最大值;xmin为原始像素值平均值或标准差的最小值。

Figure 4. Average pixel image: (a) Clear image sequence; (b) Dirty image sequence

图4. 像素平均值图像:(a) 清晰图像序列;(b) 脏污图像序列

Figure 5. Pixel standard deviation image: (a) Clear image sequence; (b) Dirty image sequence

图5. 像素标准差图像:(a) 清晰图像序列;(b) 脏污图像序列

图4中可以看出,在脏污图像序列中,由于脏污物体覆盖在镜头表面,光线难以穿透这一区域,使得该区域的像素值平均值要小于其他区域。在清晰图像序列中,道路两旁的树位置几乎不动,且像素值较低,使得该区域的像素值平均值也小于其他区域,在实际应用过程中,可通过相关算法,先识别出道路两旁的树在图像中的位置,在进行平均值图像分析时,忽略这些区域。

图5中可以看出,在脏污图像序列中,由于镜头表面的脏污物体始终和相机保持相对静止,所以在该区域内的像素值标准差要小于其他区域。在清晰图像序列中,汽车实际行驶过程中,路面在图像中的形态几乎不动,所以路面区域的像素值标准差也要小于其他区域,在实际应用过程中,也可通过相关算法,先识别出路面在图像中的位置,在进行标准差图像分析时,忽略这些区域。

结构相关性的研究对象为整幅图像,和强度相关性检测的原理类似,当有泥浆覆盖在镜头表面时,连续图像序列中泥浆覆盖部分的像素值具有很强的相关性,所以两幅图像之间的相关性系数也比较大,连续两张图像之间的相关性系数可通过公式(2)求得:

r k = m n ( A k , m n A k ¯ ) ( A k 1 , m n A k 1 ¯ ) ( m n ( A k , m n A k ¯ ) 2 ) ( m n ( A k 1 , m n A k 1 ¯ ) 2 ) (2)

式中rk为图像序列中第k张图像和第k − 1张图像之间的相关性系数;Ak和Ak − 1分别代表第k张和第k − 1张图像的像素值矩阵;m和n分别代表像素值矩阵的行数和列数; A k ¯ A k 1 ¯ 分别代表第k张和第k − 1张图像中所有像素点像素值的平均值。

利用公式求得了清晰图像序列连续两张图像的相关性系数和脏污图像序列中连续两张图像的结构相关系数,结果如图6所示。

Figure 6. Image structure correlation coefficient

图6. 图像结构相关系数

图6中可以看出,脏污图像序列中连续两张图像的相关性要比清晰图像序列中的相关性要高,尽管有个别点存在偏差,但是通过求得图像序列中的多个连续图像的相关系数的均值可以消除个别点的偏差。

3.2. 图像边缘信息

图像的边缘信息是图像非常重要的信息,一般认为,图像中物体的边缘是灰度值发生变化的区域,边缘切向方向灰度值的变化比较平缓,边缘法向方向灰度值的变化比较剧烈 [6]。同时,图像的边缘信息也可以表征图像深度的变化,在车辆行驶过程中,相机镜头正前方景深较大,深度信息较为丰富,深度变化的区域有较多的边缘信息,所以利用图像的边缘信息也可以对图像质量进行评价。当镜头表面干净时,相机所拍摄到的图像比较清晰、锐利,图像中包含较多的边缘信息。当镜头表面覆盖有泥浆后,物体较难从图像中分辨出来,在泥浆覆盖区域检测不到边缘信息,整幅图像的边缘信息也较少。

利用卷积算子对图像进行卷积运算是最常用的边缘提取方法,一般常用的一阶算子有Robert算子,Prewitt算子和Sobel算子。本文使用Sobel算子对图2中的清晰图像序列和图3中的脏污图像序列进行卷积运算,提取出清晰图像序列和脏污图像序列中的边缘信息,得到了如图7所示图像边缘信息图像。

Figure 7. Image edge: (a) Clear image sequence; (b) Dirty image sequence

图7. 图像边缘:(a) 清晰图像序列;(b) 脏污图像序列

图7中可以看出,清晰图像中的边缘信息较多,道路两旁的数和路面的指示线等边缘较为明显;脏污图像中的边缘信息较少,尤其是在被泥浆覆盖的区域,几乎提取不到任何边缘信息。在得到图像的边缘信息后,对图7(a)和图7(b)中的边缘信息进行求和运算,结果如图8所示。

Figure 8. Edge information comparison of different image sequences

图8. 不同图像序列边缘信息对比

图8中可以看出,清晰图像序列中所包含的边缘信息要多于脏污图像序列中的边缘信息。因此,可以利用图像中的边缘信息作为镜头表面是否脏污的判断依据,如果检测到图像的边缘信息一直处于一个较低的值或突然降低,摄像头表面很有可能受到污染。

3.3. 图像频域能量

在数字图像中,图像的低频能量反映了图像的总体轮廓和颜色信息,高频能量反映了图像的结构信息。也就是说,清晰图像中含有较多的高频能量,当摄像头表面受到污染后,所拍摄到图像的高频能量会降低。本文基于这一理论,对所拍摄到的图像的频谱图中的能量分布进行分析。

首先对图像进行傅里叶变化,图像中的信息从空域变换到了频域上,空域中灰度值的强度信息变为了频域中灰度值的梯度信息,图像在空域中边缘梯度值越大,在频域中高频能量越大 [7]。清晰图像序列和脏污图像序列经傅里叶变换后的平均频谱图如图9所示。

Figure 9. Image spectral distribution: (a) Clear image sequence; (b) Dirty image sequence

图9. 图像频谱分布:(a) 清晰图像序列;(b) 脏污图像序列

经过傅里叶变换后得到的频谱图可以反应原始图片的频域能量分布,频谱图中心区域代表了图像的高频能量,频谱图中像素值越大代表能量越高。从图9中可以看出,清晰图像序列的高频能量要高于脏污图像序列的。对清晰图像序列和脏污图像序列中每一张图像的频谱图求和可以近似得到该图像的频域能量,结果如图10所示。

Figure 10. Frequency domain energy of different image sequences

图10. 不同图像序列频域能量

图10中可以看出,清晰图像序列的频域能量要高于脏污图像序列的频域能量。因此,可以利用图像频域能量的这一特性对摄像头表面是否脏污进行判断。

3.4. 图像信息熵

在数字图像中,信息熵代表了图像中像素值的不确定性,是一种用于衡量图像包含信息丰富程度的方法 [8],图像的信息熵越高,代表该图像中像素值的不确定性越大,也代表该图像中所包含的纹理信息越多,所有清晰图像的信息熵应该高于脏污图像的信息熵。并且图像信息熵与人的主观感觉之间关系密切,更能代表人的主观感觉。一张图片的信息熵可由公式(3)确定:

H = k = 1 256 p ( k ) × log 2 p ( k ) (3)

式中:H为图像的信息熵,k为像素值,p(k)为像素值为k的像素点出现的频率。

本文先利用公式(3)求得了整张图像的全幅信息熵,结果如图11所示。

Figure 11. Global information entropy of different image sequences

图11. 不同图像序列的全局信息熵

图11可以看出,清晰图像序列和脏污图像序列之间的全幅图像信息熵差别不大,不能反映出图像的真实情况,所以本文先利用如图12所示的划分方式,将图像分为若干个128 × 128的小图像。

Figure 12. Zone division mode

图12. 区域划分方式

本文利用式(3)求得图12中每一个小图像的信息熵,最后将所有小图像的信息熵的平均值作为整张图片的平均信息熵,结果如图13所示。

图13中可以看出,当摄像头受到污染后,脏污部分覆盖在镜头表面,该部分遮盖住了原有的图像纹理信息,会使得图像的平均信息熵降低。因此,可以利用图像的平均信息熵作为摄像头表面是否脏污的识别依据。

Figure 13. Average information entropy of different image sequences

图13. 不同图像序列的平均信息熵

4. 结论

本文基于无参考模糊图像质量评价方法对脏污图像序列和清晰图像序列进行了区分,结果发现:

1) 使用相关系数法、边缘信息、频域能量和平均信息熵都可以将清晰图像序列和脏污图像序列区分开。脏污图像序列中的图像相关性大于清晰图像序列中的图像相关性;清晰图像序列中的边缘信息高于脏污图像序列中的边缘信息;清晰图像序列中的频域能量高于脏污图像序列中的频域能量;清晰图像序列的平均信息熵高于脏污图像序列的平均信息熵。

2) 在图像尺寸相同的情况下,平均信息熵计算速度最快,有较高的应用价值。

参考文献

[1] 牛欣宇. 混合失真图像的无参考质量评价方法研究[D]: [硕士学位论文]. 哈尔滨: 哈尔滨工业大学, 2017.
[2] 李俊峰, 张飞燕, 戴文战, 等. 基于图像相关性和结构信息的无参考图像质量评价[J]. 光电子·激光, 2014(12): 2407-2416.
[3] Gu, J., Belhumeur, P., Nayar, S., et al. (2009) Removing Image Artifacts Due to Dirty Camera Lenses and Thin Occluders. ACM Transactions on Graphics, 28, 1-10.
https://doi.org/10.1145/1618452.1618490
[4] Fujii, Y., Ohta, N., Ito, T., et al. (2006) Image Restoration for Security Cameras with Dirty Lens under Oblique Illumination. IEEE International Workshop on Imagining Systems & Techniques.
[5] Einecke, N., Gandhi, H. and Jorg, D. (2014) Detection of Camera Artifacts from Camera Images. IEEE International Conference on Intelligent Transportation Systems, Qingdao, 8-11 October 2014, 603-610.
https://doi.org/10.1109/ITSC.2014.6957756
[6] 王春哲, 李杰. 基于边缘信息的图像质量评价研究[J]. 长春大学学报(自然科学版), 2014(5): 1330-1333.
[7] 田若良, 刘柏森. 基于频域能量分割的图像模糊度评价方法[J]. 计算机技术与发展, 2015(6): 101-105.
[8] 郑加苏. 基于图像信息熵的无参考图像质量评估算法的研究[D]: [硕士学位论文]. 北京: 北京交通大学, 2015.