1、如何训练神经网络
1、先别着急写代码
训练神经网络前，别管代码，先从预处理数据集开始。我们先花几个小时的时间，了解数据的分布并找出其中的规律。
Andrej有一次在整理数据时发现了重复的样本，还有一次发现了图像和标签中的错误。所以先看一眼数据能避免我们走很多弯路。
由于神经网络实际上是数据集的压缩版本，因此您将能够查看网络（错误）预测并了解它们的来源。如果你的网络给你的预测看起来与你在数据中看到的内容不一致，那么就会有所收获。
一旦从数据中发现规律，可以编写一些代码对他们进行搜索、过滤、排序。把数据可视化能帮助我们发现异常值，而异常值总能揭示数据的质量或预处理中的一些错误。
2、设置端到端的训练评估框架
处理完数据集，接下来就能开始训练模型了吗？并不能！下一步是建立一个完整的训练+评估框架。
在这个阶段，我们选择一个简单又不至于搞砸的模型，比如线性分类器、CNN，可视化损失。获得准确度等衡量模型的标准，用模型进行预测。
这个阶段的技巧有：
· 固定随机种子
使用固定的随机种子，来保证运行代码两次都获得相同的结果，消除差异因素。
· 简单化
在此阶段不要有任何幻想，不要扩增数据。扩增数据后面会用到，但是在这里不要使用，现在引入只会导致错误。
· 在评估中添加有效数字
在绘制测试集损失时，对整个测试集进行评估，不要只绘制批次测试损失图像，然后用Tensorboard对它们进行平滑处理。
· 在初始阶段验证损失函数
验证函数是否从正确的损失值开始。例如，如果正确初始化最后一层，则应在softmax初始化时测量-log(1/n_classes)。
· 初始化
正确初始化最后一层的权重。如果回归一些平均值为50的值，则将最终偏差初始化为50。如果有一个比例为1:10的不平衡数据集，请设置对数的偏差，使网络预测概率在初始化时为0.1。正确设置这些可以加速模型的收敛。
· 人类基线
监控除人为可解释和可检查的损失之外的指标。尽可能评估人的准确性并与之进行比较。或者对测试数据进行两次注释，并且对于每个示例，将一个注释视为预测，将第二个注释视为事实。
· 设置一个独立于输入的基线
最简单的方法是将所有输入设置为零，看看模型是否学会从输入中提取任何信息。
· 过拟合一个batch
增加了模型的容量并验证我们可以达到的最低损失。
· 验证减少训练损失
尝试稍微增加数据容量。
2、想要学习人工神经网络，需要什么样的基础知识？
人工神经网络理论百度网盘下载：
链接：https://pan.baidu.com/s/1Jcg4s2ETCrag2Vo-OA57Og
提取码：rxlc
简介：本书是人工神经网络理论的入门书籍。全书共分十章。第一章主要阐述人工神经网络理论的产生及发展历史、理论特点和研究方向；第二章至第九章介绍人工神经网络理论中比较成熟且常用的几种主要网络结构、算法和应用途径；第十章用较多篇幅介绍了人工神经网络理论在各个领域的应用实例。
3、什么神经网络训练学习？学习有哪几种方式？
神经网络的学习，也就是训练过程，指的是输入层神经元接收输入信息，传递给中间层神经元，最后传递到输出层神经元，由输出层输出信息处理结果的过程。
1、有监督学习2、无监督学习3、增强学习。
4、一般神经网络要训练多久
决定神经网络训练多久有很多因素，如用的是CPU还是GPU，神经网络的结点数、层数，学习速率，激活函数等。一般在测试集的准确率不再明显增加时就可以停止训练了。
5、什么是神经网络中的训练样本？
指对人工神经网络训练。向网络足够多的样本，通过一定算法调整网络的结构（主要是调节权值），使网络的输出与预期值相符，这样的过程就是神经网络训练。根据学习环境中教师信号的差异，神经网络训练大致可分为二分割学习、输出值学习和无教师学习三种。
6、在matlab中怎么使用神经网络工具箱啊？还有神经网络训练完了以后怎么预测新数据啊？
用sim函数就行：y=sim(net,p);net是训练好的网络，p是输入，y就是你要的输出。
