• 感知器：一种具有单层计算单元的人工神经网络
  • 采用MP神经元，它可以被视为一种简单的前馈神经网络
  • 内涵：\(1.\) 权重\(w\) \(2.\) 阈值（偏置值）\(b\)
  • 功能：即最后的输出结果
  • 感知器改进的激活函数（阈值函数）：
    令\(W\) = \(\sum_{i=1}^{n}w_i*x_i + b\)，当\(W > 0\)，取值为\(1\)，\(W < 0\)，取值为\(-1\)
  • 感知器可有：单层单神经元感知器、单层多神经元感知器、多层多神经元感知器等
    多神经元情况下分开来看，每个神经元的结构都是完整的其实
  • 多层神经网络可训练函数至，输入输出与标准输入输出相等，通过不断的训练
  • 单线可划分： 例如 逻辑与、逻辑或 而异或就不是单线划分问题
  • 单层感知器的功能: 做线性分类
    即利用\(f = \sum_{i=1}^{n}w_i*x_i + b\)，计算出结果，将\(1\)划分为一类，\(-1\)划分为另一类，即把样本分为两类
  • 几项的输入\(x\)，其实就代表了函数\(f\)在几维空间内，如\(x_1,x_2,x_3\)就使\(f\)可确定出三维空间内的一个平面
  • 只要样本是线性可分的，无论维度高低，感知器一定可以做出一个线性的分类

[========]

  • 多层感知器的核心功能：\(1.\) 模式分类 \(2.\)
  • 多层感知器可以解决线性不可分问题，相当于画多条线把它们划分开
  • M-P模型 激活函数是一个0-1阈值模型
  • 单层感知器是一个 -1 / 1的sign(符号)激活函数
  • 多层神经网络中的隐含层还有几个节点即代表有几条直线来划分区域
    面对复杂的非线性分类问题，多层感知器可以模拟直线划分的过程，来拟合直线达到划分空间的目的
  • 如果划分区域仅仅是凸域的话，隐含层只需一层神经元即可解决，如果不限定凸域，那么至少需要两层才能解决问题的有效划分
  • BP算法因为采用梯度下降的原理，所以容易陷入局部最优值。为了优化这一问题，我们可以在选取\(w\)时随机选取，从而尽可能地避免进入局部最优