目录

​第1章 人工神经网络ANNG概述​

​1.1 生物神经网络回顾​

​1.2 人工神经网络概述​

​1.2 人工神经网络的层次模型​

​1.3 人工神经网络的本质是“图” 结构​

​1.4 常见计算机网络的拓扑结构 ​

​1.5 神经网络模型的决定因素:Y = W * X + B​

​第2章 人工神经网络的分类​

​2.1 按照神经网络的层数分​

​2.2 按照神经网络深浅分​

​2.3 神经网络的综合分类​

​第3章 人工神经网络基础性核心功能​

​3.1 线性回归:拟合问题​

​3.2 逻辑回归:分类问题​

​3.3  深度神经网络的应用 ​

​第4章 人工神经网络的发展​

​4.1 人工神经网络大观园​

​4.2 人工神经网络的发展​

​4.3 人工神经网络发展的动力​

​第5章 浅层神经网络​

​5.1 单层神经网络​

​5.2 二层神经网络 ​

​5.3 四层神经网络​

​第6章 深层神经网络与深度学习​

​6.1 什么是深度神经网络​





第1章 人工神经网络ANNG概述

1.1 生物神经网络回顾

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工神经网络

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工智能_02

1.2 人工神经网络概述

 人工神经网络(Artificial Neural Network,即ANN ),是20世纪80 年代以来人工智能领域兴起的研究热点。

它从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络

最近十多年来,人工神经网络的研究工作不断深入,已经取得了很大的进展,其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题,表现出了良好的智能特性。

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_神经网络_03

1.2 人工神经网络的层次模型

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工智能_04

神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。

(1)深入层:对应生物神经网络中的周围神经系统的传入神经元

由有大量的输入节点组成,每个输入节点代表样本的一个输入属性。所有的输入属性,组成了样本,用多维的“张量”这种数据结构来描述。

(2)隐藏层:对应生物神经网络中的中枢神经系统的中枢神经元

由大量的神经元节点组成,负责对输入数据进行处理。

网络的输出对输入的响应,则依赖于神经元的网络连接方式,以及各个神经元的权重参数。

(3)输出层:对应生物神经网络中的周围神经系统的输出神经

有大量的神经元组成,负责数据的输出。

1.3 人工神经网络的本质是“图” 结构

神经网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。

其底层的数据基础是“图”。

在计算机科学中,一个图就是一些顶点的集合,这些顶点通过一系列结对(连接)。

顶点用圆圈表示,边就是这些圆圈之间的连线。顶点之间通过边连接。

注意:顶点有时也称为节点或者交点,边有时也称为链接。

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工神经网络_05

与“图”相对应的常见数据结构有:

(1)链表数据结构

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_神经网络_06

(2)“树“型数据结构

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工智能_07

1.4 常见计算机网络的拓扑结构 

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工智能_08

1.5 神经网络模型的决定因素:Y = W * X + B

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_神经网络_09

 决定神经网络模型的核心是:

(1)神经网络的拓扑结构:

  • 输入数据的形状, 即输入张量X,分为样本数据和预测数据
  • 输出数据的形状, 即输出张量Y,分为样本标签和预测结果
  • 网络的拓扑结构, 即W, B矩阵形状,W和B合并后的简化模型是: Y = W * X

网络拓扑结构,反应在深度学习领域:就是各种大牛、大神们公布的、发明的神经网络的模型。

(2)神经网络的参数值

  • W, B矩阵中的W,B参数的数值
  • W,B参数的数值是:通过输入样本,对模型训练,自动设置的,而不是人为预先设计的。

神经网络的参数值,反应在深度学习领域,就是模型的训练。

第2章 人工神经网络的分类

2.1 按照神经网络的层数分

  • 单层神经网络
  • 两层神经网络
  • 多层神经网络

2.2 按照神经网络深浅分

  • 浅层神经网络
  • 深度神经网络

2.3 神经网络的综合分类

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工神经网络_10

第3章 人工神经网络基础性核心功能

3.1 线性回归:拟合问题

(1)单个神经元的线性拟合

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工智能_11

 (2)多个神经元的非线性拟合

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工智能_12

(3)无数个神经元的空间拟合能力

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_神经网络_13

3.2 逻辑回归:分类问题

(1)单个神经元的逻辑“非”运算:0或1

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_深度学习_14

(2)单个神经元的逻辑“与”运算

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_深度学习_15

(3)单个神经元的“或”运算

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工神经网络_16

 (4)两个神经元的“亦或”运算

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_神经网络_17

 (5)多神经元复杂的逻辑运算

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_深度学习_18

 (6)多个神经元的“多”分类运算

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工神经网络_19

 (7)多个神经元的复杂分类

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工神经网络_20

3.3  深度神经网络的应用 

(1)现在、当下

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工神经网络_21

(2)未来

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工智能_22

第4章 人工神经网络的发展

4.1 人工神经网络大观园

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_深度学习_23

4.2 人工神经网络的发展

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_深度学习_24

4.3 人工神经网络发展的动力

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工神经网络_25

第5章 浅层神经网络

5.1 单层神经网络

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_神经网络_26

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工神经网络_27

5.2 二层神经网络 

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_深度学习_28

5.3 四层神经网络

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工智能_29

第6章 深层神经网络与深度学习

6.1 什么是深度神经网络

[人工智能-深度学习-7]:神经网络基础 - 人工神经网络ANN_人工智能_30

(1)层数:深层神经网络的层数可以高达几十层、上百层,甚至上千层。

(2)特征:深度神经网络能否自己、自动发掘数据中深度隐藏的特征。

(3)计算:深度神经网络的计算机极大

(4)参数:深度神经网络的w,b的参数可以高达几百万、几千万个。