本文会顺带解决CNN部分的两个问题：1、max pooling架构中用到的max无法微分，那在gradient descent的时候该如何处理？2、L1 的Regress、
11
** Error 的主要有两个来源，分别是 bias 和 variance 。**定义●准: bias描述的是根据样本拟合出的模型的输出预测结果的期望与样本真实结果的差距，简单讲，就是在样本上拟合的好不好。要想在bias上表现好，low bias,就得复杂化模型，增加模型的参数，但这样容易过拟合(overfitting), 过拟合对应上图是high variance，点很分散。low b
作业
人工智能是我们想要达成的目标，而机器学习是想要达成目标的手段，希望机器通过学习方式，他跟人一样聪明。机器学习machine learning就是在寻找一个function，要让机器具有一个能力，这种能力是根据你提供给他的数据，它去寻找出我们要寻找的function。如何找到函数。step1：定义function set。step2：可以衡量function的好坏。step3：选出一个好的funct
arget是 1。类别2：相当于target是 −1。输入数值化要想把一个东西当做function的input，就需要把它数值化...
Backpropagation(反向传播)，就是告诉我们用gradient descent来train一个neural network的时候该怎么做，它只是求微分的一种方法，而不是一种新的算法Gradient Descentgradient descent的使用方法，跟linear Regression或者是Logistic Regression是一模一样的，唯一的区别就在于当它用在neural
深度学习的三个步骤Step1：神经网络（Neural network） Step2：模型评估（Goodness of function） Step3：选择最优函数（Pick best function）Step1：神经网络神经网络有很多不同的连接方式，产生不同的结构（structure）。Fully Connect Feedforward Network(全连接前馈网络) 全链接和前馈的理解 输入
回归定义Regression 就是找到一个函数 function ，通过输入特征 x，输出一个数值 Scalar。模型步骤step1：模型假设，选择模型框架（线性模型）step2
目的在假设有10个x_data和y_data，x和y之间的关系是y_data=b+w*x_data。b，w都是参数，是需要学习出来的。现在我们来练习用梯度下降找到b和w。库准备import numpy as npimport matplotlib.pyplot as pltfrom pylab import mpl# matplotlib没有中文字体，动态解决plt.rcParams['font.
Copyright © 2005-2023 51CTO.COM 版权所有 京ICP证060544号
