人工神经网络(ANNs):所有神经元之间的连接都是固定不可更换,无法凭空产生新联结

人工神经网络依靠正向和反向传递来更新神经元,从而形成一个好的神经系统,进行分布式并行信息处理的数学模型,这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的


BP神经网络:最常用的一种人工神经网络。通过一系列的训练样本,去更改权重(误差反向传递——优化参数)

B P 神 经 网络_Java

结构(各层间通过权来连接):

输入层

隐藏层(可以有多个):只有一层是浅层神经网络,多层属于深度学习的神经网路。为了更加真实,在应用过程中会加入激励函数

输出层

相关概念:

感知器(perceptron):包括输入项、权重、偏置、激活函数、输出组成

正向传播(forward):指数据(或信息、信号)从输入端输入之后,沿着网络的指向,乘以对应的权重之后再加和,在将结果作为输入在激活函数中进行计算,将计算的结果作为输入传递给下一个节点。依次计算,直到得到最终的输出。

反向传播(backward):本质是一个“负反馈”的过程。具体的过程是通过多次迭代的过程,不断地对网络上各个节点间的所有的权重进行调整,权重调整的方法采用梯度下降法

B P 神 经 网络_Java_02

B P 神 经 网络_Java_03