基于神经网络的手写体字符识别

作者： 池 敏 吕 昂

摘 要：文字是人类信息交流的主要载体之一，使用计算机处理并识别人类的文字信息是一个非常重要的研究领域。 脱机手写体字符识别是模式识别的一个重要分支，是一门综合性技术，在信息处理、办公自动化、机器翻译、人工智能等高科技领域，都有着重要的实用价值和理论意义。目前的脱机手写字符识别技术还很不成熟，仍处于实验室研究阶段。 本文试图将神经网络与模式识别相结合，利用前向多层神经网络的反向传播算法（即BP算法），采用MATLAB神经网络工具箱构建用于特征识别的两层前向神经网络，将已知字母的图像处理后输入BP网络进行训练，最终识别出待识别的手写字母。
关键词：神经网络 字符识别 反向传播算法 图像处理 灰度矩阵
自1946年第一台计算机在美国宾夕法尼亚摩尔学院面世以来，让电脑能说会看，能写会画，使人机交流更加充分，更加融洽，就成了电脑专家们努力追求的目标。

计算机的输入技术也由最早期的磁带输入到键盘输入到发明鼠标操作。然而，无论是键盘还是鼠标都脱离了人类原有的文字输入方式，因此，回归到笔输入是每一个人的梦想。
字符识别技术即通过手写笔等工具将信息输入到手写识别系统（联机手写识别技术），或者通过扫描仪等OCR(Optical Character Recognition)装置将书面文字扫描入电脑后加以识别（脱机手写识别技术）。前者计算机通过采集书写时的实时信号，记录抬笔、落笔、笔迹上各像素的空间位置，及各笔段之间的时间关系等信息。这些采集的信号经过处理，以一定的规则提取特征，最终达到识别并按通用格式存储在计算机的电子文档中。由于可以借助笔顺等辅助信息的帮助，联机识别技术所能达到的识别率较后者脱机手写识别更高一些，发展也更完善一些。（分类参见下页图1.1）
手写字符识别的发展历史可以追溯到本世纪50年代，伴随着手写板硬件的出现，人们开始研究联机手写字符识别技术。随着半导体和计算机技术的发展以及模式识别领域理论和方法研究的不断深入和完善，到80年代后期，联机手写字符识别技术的研究已经朝着实用的方向努力，特别是英文，已经开始研究完全无限制的整句识别技术。
然而，尽管联机手写体字符识别和印刷体字符识别技术已经比较成熟，但由于在有些场合，不能采用书写板等专用的输入设备输入文字，或文字信息已经是以手写体的形式存在，如果要利用计算机进行文字识别，就只能进行脱机手写体字符识别。
经过总结，现阶段的脱机手写体文字识别主要有以下一些难点：
1、对不同人手写的不同字体和书写习惯的识别问题。
2、对各种字型结构较相似的识别问题。
3、对各类不同颜色、不同粗细的笔迹的识别问题。
由大量的功能比较简单的形式神经元相互连接而构成的复杂网络学习、联想、记忆、综合等能力，它可以通过学习来获取外部的知识并且存储在网络中，可以解决计算机不易处理的难题，特别是语音和图像的识别、理解，知识的处理，优化组合计算机和智能控制等问题。因此，研究采用神经网络的手写体识别技术是提高我们计算机识别应用能力的一个重要组成部分，本文正是为了这个目的而展开一系列针对脱机手写体字母的识别和研究的。
脱机手写字符识别技术
脱机手写体文字的识别可应用于许多方面。如文字资料、票据处理等等。其基本方法有两种，一种是结构法，一种是模式匹配法。
结构法通过图形、笔画、弧线、点等结构特征的相对关系来判别所识别的文字属于哪一类，它的优点是可以在很大程度上吸收手写字符的形变，缺点是对噪声非常敏感。
模式匹配方法是将所要识别的文字各自建立模板，对于输入字符用建立的模板进行匹配，选出距离最小的作为识别输出，模板的优点是可以抑制噪声，缺点是对形变的适应能力较差。
手写体字符识别系统主要由原始图像的输入、图像分割、预处理、字符特征提取、字符识别和识别结果输出等部分组成。
手写体字符的原始图像由字符输入设备送入计算机后，首先需要进行字符切分（分割），将文章切分为独立的字符单元。通常，原始文稿通过光电扫描仪等输入设备转换成原始的二维图像信号，可以是灰度图像或二值图像。一般的字符切分采用行字切分，它是将整页版面的原始图像先按书写行分割开，然后再从每行中切分出单个字符图像。根据手写体字符的特点，字符切分常采用垂直投影法、采用外部轮廓特征、边界曲线以及形态学上的方法等。
文字图像经切分成为独立字符图像后，由于输入设备以及纸张原因会造成字形畸变，产生污点、非白、断笔、交联、噪声等干扰。所以，在识别之前，要对带有随机噪声、干扰的字符灰度值数字信号进行预处理。常用的预处理一般包括了二值化、细化或轮廓化、平滑、去噪、字符归一化等。字符的细化、平滑目前常采用形态学的方法来进行。由于神经网络技术的应用，有人提出了基于神经网络的图像细化、平滑算法，如果在硬件上实现，该算法可以达到很高的速度。
预处理后的字符图像送入特征提取模块抽取特征用与分类器的识别。特征抽取是模式识别的一个重要环节，稳定特征的抽取是整个识别系统的关键，他们直接决定了识别系统的性能。 根据字符识别分类器使用特征的不同，字符特征可以大概分为结构特征、统计特征。 而统计特征根据特征抽取区域的不同又可以粗略地分为全局统计特征和局部统计特征两大类。
字符特征被提取后，就要送入字符分类器中进行识别。字符分类器是字符识别中最为重要的环节。在脱机手写体字符识别系统中，经过长期的研究工作，在字符的分割、预处理等方面已经取得了大量的成果，技术已经趋于成熟。但由于脱机手写体字符只有字符的二维点阵信息，而且存在字符变形大等原因，使得手写体字符特征提取存在着很大的困难。如果没有好的能够准确扫描字符的稳定特征，也就无法构造良好的分类器进行字符的分类工作。因此脱机手写体字符识别的重点与难度在于字符的特征提取与分类器的设计。
写体字符模糊识别法将模糊理论应用于识别，其过程是先构建字符类模糊矩阵，然后对待识别字符依照同样的方法构建模糊矩阵，计算待识别字符模糊矩阵与模式类的贴近度，将贴近度最大的模式类作为识别结果输出。近年来，人工神经网络以其抗噪声、容错、自适应、自学能力强、融若干预处理和识别于一体、识别速度快等特点受到人们的重视，在模式识别领域中得到广泛的应用。与传统的模式识别方法相比，神经网络具有以下特点：
1、本质上的并行处理。
2、网络的非线性。3、在短时间内寻找好的，但不一定是最好的解答。
4、由大量简单的处理单元协同处理问题。
5、注重变换，通过学习和训练，形成信息处理方法，具有自适应、自组织的特性。
6、无特定的数据存储，以神经元间的互连分布形式进行信息存储，可以通过部分信息而联想出事件的整体。
7、在模糊、不完整或冗余甚至矛盾的数据基础上进行问题求解。
8、具有很强的容错能力。
使用人工神经网络方法实现模式识别，可处理一些环境信息十分复杂、背景知识不清楚、推理规则不明确的问题，允许样品有较大的缺损、畸变。目前用于文字识别的人工神经网络模型还有： Hopfield神经网络、ART网络、自组织特征映射网络、认知器模型等等。目前，人们还在研究将神经网络方法和传统的识别方法结合起来使用，互相取长补短。
字符的预处理完毕后，我们将神经网络与模式识别相结合。利用前向多层神经网络的反向传播算法（即BP算法），采用MATLAB神经网络工具箱构建用于特征识别的两层前向神经网络，将已知字母的图像处理后输入BP网络进行训练，最终识别出待识别的手写字母。
一个BP网络，需要计算网络加权输入矢量以及网络输出和误差矢量，然后求得误差平方和。当所训练矢量的误差平方和小于误差目标，训练则停止，否则在输出层计算误差变化，且采用反向传播学习规则来调整权值，并重复此过程。网络的程序设计必须首先根据具体的问题给出的输入矢量P与目标矢量T，并选定所要设计的神经网络的结构，其中包括以下内容：
(1) 网络的层数。
(2) 每层的神经元数。
(3) 每层的激活函数。
由于网络的层数较多且每层神经元也较多，加上输人矢量的组数庞大，往往使得采用一般的程序设计出现循环套循环的复杂嵌套程序，从而使得程序编得既费时，又不易调通，浪费了大量的时间在编程中而无暇顾及如何设计出具有更好性能的网络来。在这点上MATLAB工具箱充分展示出其神到之处。它的全部运算均采用矩阵形式，使其训练既简单，又快速明了。
我们设计的神经网络有35个输入节点，10个隐层神经元以及26个输出神经元。采用输入在(0，1)范围的对数S型激活函数两层logsig / logsig网络，这种网络对0~1型布尔值是相当完美的。如果需要网络有更高的辨识精度，可以再增加一些隐层神经元数。在本例中，其辨识训练精度对于无噪声的goal取为0.1，对于带有噪声的辨识目标误差只要求为0.6，此目标均在5000次训练内达到。
网络要求输出矢量在正确的位置上输出为1，而在其他位置上输出为0。然而，噪声输入矢量可能导致网络的1或0输出不正确，或出现其他输出值。所以为了使网络具有抗干扰能力，在网络训练后，再将其输出经过一层竞争网络函数的处理，使网络的输出只在最接近输入值的输出位置输出为1，保证在其他位置输出均为0。
上述神经网络经过训练后，也可能出现神经网络虽能够辨识出带有噪声的字母的正确位置，但却是以牺牲理想无噪声输入辨识的正确性作为代价的，换句话说，此时网络可能出现对理想无噪声输入辨识错误的可能性。为此，应将网络训练后的权矢量作为初始权值，对无噪声输入再进行训练，以此来保证网络对理想输入输出的正确性。
经过字符预处理，神经网络的构建和训练，此BP网络可以较准确地识别大写A－Z，共26个英文手写字母。
由于BP算法的诸多优点，它仍然是多层前向神经网络的最主要的学习方法。但我们在使用过程中也发现一些不足，主要体现在：
(1)学习过程收敛速度缓慢。
(2)用BP算法所得的网络性能差。
(3)易限于局部最小。
因为BP算法的实质是梯度法，因此容易陷入局部极值是其固有的缺点。为彻底摆脱依赖梯度信息来指导权值调整方向的这种方式，现今许多研究者提出采用其他的随机优化技术，如遗传算法、模拟退火法等训练多层前向网络，以求能找到全局最优解，我们努力在将来的研究中多采用新的训练方法来达到更好的训练效果。
参考文献
[1]许东，吴铮，基于MATLAB的系统分析与设计——神经网络(第二版)，西安：西安电子科技大学出版社，2002.
[2]邓铭辉，孙枫，张志，一种基于MATLAB的手写字母的神经网络识别方法，应用科技，2001年10月。
[3]张志涌，徐彦琴，MATLAB教程——基于6.X版本，北京：北京航空航天大学出版社，2001.
作者简介
池敏，（1958— ），女， 浙江杭州人，现就职于浙江长征职业技术学院计算机技术与应用系，任计算机基础教研室主任，职称为中学高级教师。