目录
1.5 神经网络模型的决定因素:Y = W * X + B
第1章 人工神经网络ANNG概述
1.1 生物神经网络回顾
1.2 人工神经网络概述
人工神经网络(Artificial Neural Network,即ANN ),是20世纪80 年代以来人工智能领域兴起的研究热点。
它从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。
最近十多年来,人工神经网络的研究工作不断深入,已经取得了很大的进展,其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题,表现出了良好的智能特性。
1.2 人工神经网络的层次模型
神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。
(1)深入层:对应生物神经网络中的周围神经系统的传入神经元
由有大量的输入节点组成,每个输入节点代表样本的一个输入属性。所有的输入属性,组成了样本,用多维的“张量”这种数据结构来描述。
(2)隐藏层:对应生物神经网络中的中枢神经系统的中枢神经元
由大量的神经元节点组成,负责对输入数据进行处理。
网络的输出对输入的响应,则依赖于神经元的网络连接方式,以及各个神经元的权重参数。
(3)输出层:对应生物神经网络中的周围神经系统的输出神经
有大量的神经元组成,负责数据的输出。
1.3 人工神经网络的本质是“图” 结构
神经网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。
其底层的数据基础是“图”。
在计算机科学中,一个图就是一些顶点的集合,这些顶点通过一系列边结对(连接)。
顶点用圆圈表示,边就是这些圆圈之间的连线。顶点之间通过边连接。
注意:顶点有时也称为节点或者交点,边有时也称为链接。
与“图”相对应的常见数据结构有:
(1)链表数据结构
(2)“树“型数据结构
1.4 常见计算机网络的拓扑结构
1.5 神经网络模型的决定因素:Y = W * X + B
决定神经网络模型的核心是:
(1)神经网络的拓扑结构:
- 输入数据的形状, 即输入张量X,分为样本数据和预测数据
- 输出数据的形状, 即输出张量Y,分为样本标签和预测结果
- 网络的拓扑结构, 即W, B矩阵形状,W和B合并后的简化模型是: Y = W * X
网络拓扑结构,反应在深度学习领域:就是各种大牛、大神们公布的、发明的神经网络的模型。
(2)神经网络的参数值
- W, B矩阵中的W,B参数的数值
- W,B参数的数值是:通过输入样本,对模型训练,自动设置的,而不是人为预先设计的。
神经网络的参数值,反应在深度学习领域,就是模型的训练。
第2章 人工神经网络的分类
2.1 按照神经网络的层数分
- 单层神经网络
- 两层神经网络
- 多层神经网络
2.2 按照神经网络深浅分
- 浅层神经网络
- 深度神经网络
2.3 神经网络的综合分类
第3章 人工神经网络基础性核心功能
3.1 线性回归:拟合问题
(1)单个神经元的线性拟合
(2)多个神经元的非线性拟合
(3)无数个神经元的空间拟合能力
3.2 逻辑回归:分类问题
(1)单个神经元的逻辑“非”运算:0或1
(2)单个神经元的逻辑“与”运算
(3)单个神经元的“或”运算
(4)两个神经元的“亦或”运算
(5)多神经元复杂的逻辑运算
(6)多个神经元的“多”分类运算
(7)多个神经元的复杂分类
3.3 深度神经网络的应用
(1)现在、当下
(2)未来
第4章 人工神经网络的发展
4.1 人工神经网络大观园
4.2 人工神经网络的发展
4.3 人工神经网络发展的动力
第5章 浅层神经网络
5.1 单层神经网络
5.2 二层神经网络
5.3 四层神经网络
第6章 深层神经网络与深度学习
6.1 什么是深度神经网络
(1)层数:深层神经网络的层数可以高达几十层、上百层,甚至上千层。
(2)特征:深度神经网络能否自己、自动发掘数据中深度隐藏的特征。
(3)计算:深度神经网络的计算机极大
(4)参数:深度神经网络的w,b的参数可以高达几百万、几千万个。