前言:现在网络上有很多文章,数据和代码都不全,胖哥对此重新梳理后,把用到的数据和代码全部奉上,如果想直接要数据和代码,请查看文章最后!!!
概述:
人工神经网络是一种经典的机器学习模型,随着深度学习的发展神经网络模型日益完善.联想大家熟悉的回归问题, 神经网络模型实际上是根据训练样本创造出一个多维输入多维输出的函数, 并使用该函数进行预测, 网络的训练过程即为调节该函数参数提高预测精度的过程.神经网络要解决的问题与最小二乘法回归解决的问题并无根本性区别.感知机(Perceptron)是一个简单的线性二分类器, 它保存着输入权重, 根据输入和内置的函数计算输出.人工神经网络中的单个神经元即是感知机.所谓全连接是指层A上任一神经元与临近层B上的任意神经元之间都存在连接.反向传播(Back Propagation,BP)是误差反向传播的简称,这是一种用来训练人工神经网络的常见算法, 通常与最优化方法(如梯度下降法)结合使用.
BP神经网络原理:
经典的BP神经网络通常由三层组成: 输入层, 隐含层与输出层.通常输入层神经元的个数与特征数相关,输出层的个数与类别数相同, 隐含层的层数与神经元数均可以自定义.每个神经元代表对数据的一次处理:
python实现BP神经网络代码:
#!/usr/bin/python
# -*- coding: UTF-8 -*-
import pandas as pd
# 参数初始化
inputfile = 'data.xls'
data = pd.read_excel(inputfile, index_col=u'序号') # 导入数据
# print(x_test)
# print(y_t_true)
# print(data.head(10))
# 数据是类别标签,要将它转换为数据
# 用1来表示“好”“是”“高”这三个属性,用0来表示“坏”“否”“低”
data[data == u'好'] = 1
data[data == u'是'] = 1
data[data == u'高'] = 1
data[data != 1] = 0
x = data.iloc[:, :3].astype(int)
y = data.iloc[:, 3].astype(int)
# print(data.head(10))
# print(x)
# print('------------------------')
# print(y)
from keras.models import Sequential
from keras.layers.core import Dense, Activation
model = Sequential() # 建立模型
model.add(Dense(input_dim=3, units=10))
model.add(Activation('relu')) # 用relu函数作为激活函数,能够大幅提供准确度
model.add(Dense(input_dim=10, units=1))
model.add(Activation('sigmoid')) # 由于是0-1输出,用sigmoid函数作为激活函数
model.compile(loss='binary_crossentropy', optimizer='adam')
# 编译模型。由于我们做的是二元分类,所以我们指定损失函数为binary_crossentropy,以及模式为binary
# 另外常见的损失函数还有mean_squared_error、categorical_crossentropy等,请阅读帮助文件。
# 求解方法我们指定用adam,还有sgd、rmsprop等可选
# model.compile(optimizer='rmsprop',loss='mse')
# print(model.compile(optimizer='rmsprop',loss='mse'))
model.fit(x, y, epochs=1000, batch_size=10) # 训练模型,学习一千次
# score = model.evaluate(x,y , batch_size=128)
# print(score)
yp = model.predict_classes(x).reshape(len(y)) # 分类预测
# yp_test = model.predict_classes(x_test).reshape(len(y_t_true)) # 分类预测
def cm_plot(y, yp):
from sklearn.metrics import confusion_matrix # 导入混淆矩阵函数
cm = confusion_matrix(y, yp) # 混淆矩阵
import matplotlib.pyplot as plt # 导入作图库
plt.matshow(cm, cmap=plt.cm.Greens) # 画混淆矩阵图,配色风格使用cm.Greens,更多风格请参考官网。
plt.colorbar() # 颜色标签
for x in range(len(cm)): # 数据标签
for y in range(len(cm)):
plt.annotate(cm[x, y], xy=(x, y), horizontalalignment='center', verticalalignment='center')
plt.ylabel('True label') # 坐标轴标签
plt.xlabel('Predicted label') # 坐标轴标签
return plt
# from cmplot import * # 导入自行编写的混淆矩阵可视化函数
cm_plot(y, yp).show() # 显示混淆矩阵可视化结果