承接上一节,神经网络需要训练,那么训练集来自哪?测试的数据又来自哪?
《python神经网络编程》一书给出了训练集,识别图片中的数字。测试集的链接如下:
为了方便,这只是一个小的测试集,才10个。
训练集链接:https://raw.githubusercontent.com/makeyourownneuralnetwork/makeyourownneuralnetwork/master/mnist_dataset/mnist_train_100.csv
这是包含100个数据的训练集。
训练集和测试集的每段的第一个字母是期望的数字,每段剩余的文本是表示这个数字的像素集合,为784个数据。为了计算,我们要把文本转化为数字进行存放。把第一个数据当作期望数据,剩余的784个数据当作输入。因此输入节点设为784个。输出节点设为10个,因为要识别的是10个数据0到9。隐藏层节点选为100个,并没有进行科学的计算。
1 import numpy
2 import scipy.special
3 import matplotlib.pyplot as plt
4 import pylab
5 # 神经网络类定义
6 class NeuralNetwork():
7 # 初始化神经网络
8 def __init__(self, inputnodes, hiddennodes, outputnodes, learningrate):
9 # 设置输入层节点,隐藏层节点和输出层节点的数量
10 self.inodes = inputnodes
11 self.hnodes = hiddennodes
12 self.onodes = outputnodes
13 # 学习率设置
14 self.lr = learningrate
15 # 权重矩阵设置 正态分布
16 self.wih = numpy.random.normal(0.0, pow(self.hnodes, -0.5), (self.hnodes, self.inodes))
17 self.who = numpy.random.normal(0.0, pow(self.onodes, -0.5), (self.onodes, self.hnodes))
18 # 激活函数设置,sigmod()函数
19 self.activation_function = lambda x: scipy.special.expit(x)
20 pass
21
22 # 训练神经网络
23 def train(self,input_list,target_list):
24 # 转换输入输出列表到二维数组
25 inputs = numpy.array(input_list, ndmin=2).T
26 targets = numpy.array(target_list,ndmin= 2).T
27 # 计算到隐藏层的信号
28 hidden_inputs = numpy.dot(self.wih, inputs)
29 # 计算隐藏层输出的信号
30 hidden_outputs = self.activation_function(hidden_inputs)
31 # 计算到输出层的信号
32 final_inputs = numpy.dot(self.who, hidden_outputs)
33 final_outputs = self.activation_function(final_inputs)
34
35 output_errors = targets - final_outputs
36 hidden_errors = numpy.dot(self.who.T,output_errors)
37
38 #隐藏层和输出层权重更新
39 self.who += self.lr * numpy.dot((output_errors*final_outputs*(1.0-final_outputs)),
40 numpy.transpose(hidden_outputs))
41 #输入层和隐藏层权重更新
42 self.wih += self.lr * numpy.dot((hidden_errors * hidden_outputs * (1.0 - hidden_outputs)),
43 numpy.transpose(inputs))
44 pass
45 # 查询神经网络
46 def query(self, input_list):
47 # 转换输入列表到二维数组
48 inputs = numpy.array(input_list, ndmin=2).T
49 # 计算到隐藏层的信号
50 hidden_inputs = numpy.dot(self.wih, inputs)
51 # 计算隐藏层输出的信号
52 hidden_outputs = self.activation_function(hidden_inputs)
53 # 计算到输出层的信号
54 final_inputs = numpy.dot(self.who, hidden_outputs)
55 final_outputs = self.activation_function(final_inputs)
56
57 return final_outputs
58
59 # 设置每层节点个数
60 input_nodes = 784
61 hidden_nodes = 100
62 output_nodes = 10
63 # 设置学习率为0.3
64 learning_rate = 0.3
65 # 创建神经网络
66 n = NeuralNetwork(input_nodes, hidden_nodes, output_nodes, learning_rate)
67
68 #读取训练数据集 转化为列表
69 training_data_file = open("D:/mnist_train_100.csv",'r')
70 training_data_list = training_data_file.readlines();
71 training_data_file.close()
72
73 #训练神经网络
74 for record in training_data_list:
75 #根据逗号,将文本数据进行拆分
76 all_values = record.split(',')
77 #将文本字符串转化为实数,并创建这些数字的数组。
78 inputs = (numpy.asfarray(all_values[1:])/255.0 * 0.99) + 0.01
79 #创建用零填充的数组,数组的长度为output_nodes,加0.01解决了0输入造成的问题
80 targets = numpy.zeros(output_nodes) + 0.01
81 #使用目标标签,将正确元素设置为0.99
82 targets[int(all_values[0])] = 0.99
83 n.train(inputs,targets)
84 pass
85
86 #读取测试文件
87 test_data_file = open("D:/mnist_test_10.csv",'r')
88 test_data_list = test_data_file.readlines()
89 test_data_file.close()
90
91 all_values = test_data_list[0].split(',')
92 print(all_values[0]) #输出目标值
93
94 image_array = numpy.asfarray(all_values[1:]).reshape((28,28))
95 print(n.query((numpy.asfarray(all_values[1:])/255.0*0.99)+0.01))#输出标签值
96 plt.imshow(image_array,cmap='Greys',interpolation='None')#显示原图像
97 pylab.show()
输出情况:
从结果可以看出,我们输入的目标值为7,结果中第7个标签所对应的值最大,表明了正确识别了目标值。和图片中的值一样。