一项源于“猫”的成功突破

人工智能(AI)跟一只“猫”能有什么联系?

1943年,美国神经生理学家Warren McCulloch和数学家Walter Pitts首次对生物神经元进行建模,并通过电阻等元件构建了物理网络,开启了人们对神经网络的探索之路。

20世纪60年代,Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的复杂性,继而提出了卷积神经网络(Convolutional Neural Networks,简称CNN)。CNN是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。

图1 猫脑皮层神经网络

现在,CNN已经成为众多科学领域的研究热点,特别是在模式分类领域,由于该网络避免了对图像的复杂前期预处理,可以直接输入原始图像,因而得到了更为广泛的应用。K.Fukushima在1980年提出的新识别机是卷积神经网络的第一个实现网络。随后,更多的科研工作者对该网络进行了改进。其中,具有代表性的研究成果是Alexander和Taylor提出的“改进认知机”,该方法综合了各种改进方法的优点并避免了耗时的误差反向传播。

2006年,一项基于人工智能的机器学习(ML, Machine Learning)研究——“深度学习(DL, Deep Learning)理论”被提出,卷积神经网络的表征学习能力得到了关注,并随着数值计算设备的更新得到不断发展 。截止目前,卷积神经网络(CNN)已经成为深度学习领域中一个最常用、最重要的网络类型。

换句话说,猫在人工智能深度学习的过程中发挥了不可或缺的作用。

“卷积”其实不复杂

卷积运算

卷积的实质是使用两个大小不同的矩阵进行的一种数学运算。

假如我们需要对高速公路上的跑车进行位置追踪,摄像头接收的信号被整理为x(t),表示跑车在时刻t所处的位置。但是实际上受摄像头传感器滞后等多种因素的影响,得到跑车位置的实时数据并不是这样简单的,需要对测量结果进行均值化处理。对于运动中的目标,时间越久的位置越不可靠,时间越近的位置则对真实值的相关性越高。因此,可以对不同时间段赋予不同的权重,即通过一个权值定义来计算,表示如下:

式中:第一个参数x表示“输入数据”,第二个参数表示“核函数”,表示“输出数据”,即特征映射。

卷积神经网络

卷积神经网络就是将图像处理中的二维离散卷积运算和神经网络相结合。因为这种卷积运算可以用于自动提取特征,所以卷积神经网络主要是应用于二维图像的识别。卷积神经网络一般由输入层、卷积层、池化层、全连接层和输出层组成。通过增加卷积层和池化层,还可以得到更深层次的网络,其后的全连接层也可以采用多层结构,如图2所示。

图2 卷积神经网络层级结构图

卷积神经网络的每一层级发挥着不同的作用:

输入层:处理输入数据

卷积层:输入样本和卷积核的内积运算并对图像特征进行提取,如图3所示。

图3 CNN卷积过程

池化层:减小卷积层产生的特征图的尺寸,如图4所示。

图4 最大池化示意图

全连接层:把卷积层或池化层的特征重新通过权值矩阵组合,然后将权值矩阵展开为向量。

输出层:使用似然函数计算各类别的似然概率,然后把概率最大的作为分类结果输出。

擅长图像分类的CNN

卷积神经网络的优化主要是通过以最小化损失函数为目的迭代更新模型参数,待模型的损失函数值不再下降时停止训练,保存模型及参数。

基于卷积神经网络的分类算法流程框架如图5所示,上栏为前向传播,下栏为反向传播,网络的前向传播分为输入图像、特征提取、分类三个部分,反向传播过程由网络根据标签数据的真实值和预测值计算损失,以最小化损失函数为目的,进行参数的更新迭代优化,整个流程是一个端到端的处理过程,关于测试阶段只需加载模型参数进行网络的前向传播,输出测试结果。

图5 基于卷积神经网络的分类算法流程框架图

基于卷积神经网络擅长图片分类的特性,路面裂缝图像的识别技术得以研究发展。

分两步走,捕捉路面裂缝图像

路面裂缝图像的识别技术一般采用卷积神经网络分类技术和数字图像处理技术,分为两个阶段来完成。

裂缝分割提取流程,如图6所示,首先将待识别的裂缝大图按一定规则进行切割,分成众多50*50(像素)大小的小图,然后使用卷积神经网络分类技术对小图是否含有裂缝进行定性分析,接着对判定为裂缝的小图使用数字图像处理相关算法进行裂缝的分割提取,最后将识别结果恢复到大图上,这样就完成了裂缝的图像识别与提取。

图6 裂缝识别系统流程图

卷积神经网络(CNN)起源于猫的视觉研究,目前已经发展成为深度学习(DL)中一个最常用、最重要的网络类型,可以说是“仿生学”应用的又一成功案例。

鉴于其对大型图像处理的出色表现,卷积神经网络被应用到路面裂缝图像识别领域,并且取得的很好的效果。在路面破损多功能检测车大面积推广应用的过程中,路面裂缝图像自动识别技术起到了关键作用,极大地提高了路面检测数据处理的精度与效率,是道路养护检测工作者必不可少的“利器”。

这么说来,猫在道路养护的过程中可谓是功不可没啊!

作者:中国测试通讯员/王伟