输入训练神经网络



在进行学习输入训练神经网络前,你应该去学习一下自联想神经网络和自编码神经网络,PCA算法,这样会对你有更好的理解这个输入训练神经网络。


自联想神经网络的拓扑图分为输入层,隐含层,输出层。其中一般的情况下我们是不会将输入层定义为一个层数的,但是在拓扑图中可以说输入层是一个层数。其中自联想神经网络的主要作用是对数据的过滤,降噪,压缩,自联想神经网络的输入层到隐含层中这个可以看作PCA的模型,因为隐层中节点数要比输入层中的节点数要少,体现了特征提取的性质,很符合PCA算法的性质。


神经网络点云输入 输入训练神经网络_神经网络


回到输入训练神经网络,从上图中可以看出出入层比输出层的节点数要少。其中输入层是作为原始数据降维后的非线性主元,包含了其测量数据的主要信息,输出层是原测量数据的估计值。从上段所说的自联想神经网络中的输入层到隐含层,因为输入层的节点数比隐含层的节点数要多,所以从输入层到隐含层是一个特征提取的过程。然后来联想输入训练神经网络,可以从输入层和输出层来看,输入层的节点数比输出层的节点数要少,起到了特征提取的作用,所以输入层是一个原始数据的特征主元。
输入训练神经网络采用误差反传梯度下降法进行训练,就是以梯度下降法加上输出到输入层的反馈相结合。
我个人感觉PCA算法和这个输入训练神经网络都有其一定的有点,可能在做数据驱动的时候如果你要是用神经网络来进行某一训练任务,可能输入训练神经网络更适合,当然PCA算法也适合,具体境况具体分析把,PCA算法更快,输入训练神经网络比较慢一点。
下面贴出我学习输入训练神经网络的时候参考使用的资料。
《基于混合型鲁棒输入训练神经网络的非线性数据校正方法及其应用》