2. 测试算法：使用k-近邻算法识别手写数字
上面我们已经将数据处理成分类器可以识别的格式，下面我们将这些数据输入到分类器，检测分类器的执行效果。程序清单1-1所示的自包含函数handwritingClassTest(）是测试分类器的代码，将其写入kNN.py文件中。在写人这些代码之前，我们必须确保将from os import listdir写入文件的起始部分，这段代码的主要功能是从os模块中导入函数listdir，它可以列出给定目录的文件名。
程序清单1-1手写数字识别系统的测试代码
在程序清单1-1中，将trainingDigits目录中的文件内容存储在列表中①，然后可以得到目录中有多少文件，并将其存储在变量m中。接着，代码创建一个m行1024列的训练矩阵，该矩阵的每行数据存储一个图像。我们可以从文件名中解析出分类数字②。该目录下的文件按照规则命名，如文件9_45.txt的分类是9,它是数字9的第45个实例。然后我们可以将类代码存储在hwLabels向量中，使用前面讨论的img2vector函数载入图像。在下一步中，我们对testDigits目录中的文件执行相似的操作，不同之处是我们并不将这个目录下的文件载入矩阵中，而是使用classify0()函数测试该目录下的每个文件。由于文件中的值已经在0和1之间，此处并不需要使用autoNorm(）函数。
在Python命令提示符中输入kNN.handwritingClassTest(),测试该函数的输出结果。依赖于机器速度，加载数据集可能需要花费很长时间，然后函数开始依次测试每个文件，输出结果如下所示：
k-近邻算法识别手写数字数据集，错误率为1.2%。改变变量k的值、修改函数handwriting-ClassTest随机选取训练样本、改变训练样本的数目，都会对k-近邻算法的错误率产生影响，感兴趣的话可以改变这些变量值，观察错误率的变化。
实际使用这个算法时，算法的执行效率并不高。因为算法需要为每个测试向量做2000次距离计算，每个距离计算包括了1024个维度浮点运算，总计要执行900次，此外，我们还需要为测试向量准备2MB的存储空间。是否存在一种算法减少存储空间和计算时间的开销呢？k决策树就是k-近邻算法的优化版，可以节省大量的计算开销。
责任编辑：admin
上一篇：划分数据集
下一篇：k-近邻算法概述
微信公众号搜索“译员”关注我们，每天为您推送翻译理论和技巧，外语学习及翻译招聘信息。