针对深度学习基础部分，有必要恶补一些吴恩达的深度学习课程，其实晚上有很多总结和笔记，本系列文章是针对黄海广大佬整理的《深度学习课程笔记(V5.47)》的总结和自己的理解，以便加深印象和复习。

1 第一周 深度学习引言

1.1 深度学习为什么会兴起

  • 数据规模
    数据规模越来越大，远超过传统机器学习算法的学习能力。
  • 计算量
  • 算法的创新
    发展和提出了多样的神经网络，具有强大的计算机能力


  • image
  • 计算机硬件的发展
    比如GPU、TPU的出现

2 第二周 神经网络的编程基础

2.1 逻辑回归

下面是逻辑回归的输出函数：







2.2 损失函数

损失函数又叫做误差函数，用来衡量算法的运行情况，Loss function:?(? , ?).通过这个?称为的损失函数，来衡量预测输出值和实际值有多接近。
逻辑回归用的损失函数为：




为什么用这个函数作为损失函数？




2.3 梯度下降算法

梯度下降算法就是为了通过 最小化代价函数（成本函数）J(w,b)来更新参数w和b，说白了就是原先的w和b会使函数更大，需要更新一下，使损失变小。




逻辑回归的代价函数(成本函数)?(?, ?)是含有两个参数的：