神经网络的学习学习：从训练数据中自动获取最优权重参数的过程指标：损失函数目的：以损失函数为基准，找到能使损失函数的值达到最小的权重参数机器学习的方案
从图像中提取特征量（可以从输入数据中准确提取本质数据的转换器）用机器学习技术学习特征量的模式CV领域常用的特征量包括SIFT，SURF和HOG深度学习有时也成为端到端机器学习（end-to-end machine learning),从原始数据中获得
转载
2023-12-07 19:29:51
85阅读
作者： Alberto Quesada 译者： KK4SBB 责编：何永灿 神经网络模型的每一类学习过程通常被归纳为一种训练算法。训练的算法有很多，它们的特点和性能各不相同。 问题的抽象 人们把神经网络的学习过程转化为求损失函数f的最小值问题。一般来说，损失函数包括误差项和正则项两部分。误差项衡量神经网络模型在训练数据集上的拟合程度，而正则项则是控制模型的复
转载
2023-05-30 11:14:59
73阅读
#MNIST数据集的标签是介于0-9的数字，我们要把标签转化为“one-hot vectors”。
#一个one-hot向量除了某一位数字是1以外，其余维度数字都是0，比如标签O将表示为([1,0,0,0,0,0,0.0,0.0])，标签3将表示为([O,0,0,1.0,0,0,0,0,0])。
#因此，mnist.train.labels是一个[60000,10]的数字矩阵，60000张图片10
转载
2024-01-01 16:46:32
72阅读
现在基本的概念已经介绍得差不多了，是时候实战演示一下如何利用神经网络来处理分类问题的。按照一直的做法，自己出题自己解决。这次拿一个现实生活中的一个小问题来练练手：根据人的身高，体重，把人划分成轻，正常，偏胖，肥胖这四种情况。按照现在流行的观点认为，人正常的BMI指数范围在20-25之间，低于20就是过轻，高于25低于28是偏胖，高于28就是肥胖了。按照前面介绍的方法，解决问题的第一步是建模和打标签
转载
2024-02-27 09:55:10
52阅读
1.为什么要有标签2.标签生成3.处理好的数据标签分享正文：1.为什么要有标签 获取了数据以后，虽然已经有了数据，但是对于监督型的训练学习任务而言，还需要有标签，标签就是正确答案（在人脸检测中即人脸/非人脸的标签）。利用正确答案可以做以下两件事。 计算损失函数的损失值计算正确率、召回率等性能指标2.标签生成 对于分类任务，通常用独热编码来表示标签。比如说，对于手写数字识别任务，用下面表示，即利用数
转载
2023-09-27 20:39:56
180阅读
强化学习神经网络学习-MNIST手写字符集识别现在仅仅停留在看懂代码以及卷积神经网络的学习过程，这是新手菜鸟学习笔记，主要参考的是，matlab代码过程（一次写不完 慢慢更新）MNIST手写字符集的提取识别的手写字符集为MNIST字符集，我们首先需要将所有的手写字符集提取。提取过程中需要注意的是，手写字符集的前16字节为其控制信息，分别为4字节的幻数，4字节的图像数，4字节的行数以及4个字节的列数
转载
2023-08-30 09:55:37
76阅读
神经网络纯小白入门学习笔记一、概述二、神经网络的例子三、激活函数3.1 sigmoid函数3.2 阶跃函数的实现3.3 阶跃函数的图形3.4 sigmoid函数的实现3.5 sigmoid函数和阶跃函数的比较3.6 ReLU函数四、多维数组的运算4.1 多维数组的概述五、神经网络的设计5.1 神经网络的内积5.2 三层神经网络的实现5.2.1 符号确认5.2.2 各层神经元之间的实现5.2.3
转载
2023-08-30 16:36:49
157阅读
作者： Alberto Quesada 译者： KK4SBB 责编：何永灿， 神经网络模型的每一类学习过程通常被归纳为一种训练算法。训练的算法有很多，它们的特点和性能各不相同。
问题的抽象 人们把神经网络的学习过程转化为求损失函数f的最小值问题。一般来说，损失函数包括误差项和正则项两部分。误差项衡量神经网络模型在训练数据集上的拟合程度，而正
转载
2024-03-06 05:30:40
83阅读
以前一直知道神经网络划分数据集时要分为训练集，测试集和验证集，但不知道并且一般以6：2：2的比例划分，到头来不知道这三者各是啥，以及他们的作用是什么。本片文档解释一下三者的作用。重点在于验证集和测试集的区别以及用处。1. 三者的功能简述在机器学习中，我们的模型一般包括以下几点：（1）模型设计；（2）模型架构（模型多少层，每层神经元个数）；（3）神经元内置参数；（4）模型训练的参数：超参数（模型外置
转载
2023-08-11 17:49:46
193阅读
深度神经网络是如何训练的？Coursera的Ng机器学习，UFLDL都看过。没记错的话Ng的机器学习里是直接给出公式了，虽然你可能知道如何求解，但是即使不知道完成作业也不是问题，只要照着公式写就行。反正我当时看的时候心里并没能比较清楚的明白。我觉得想了解深度学习UFLDL教程-Ufldl是不错的。有习题，做完的话确实会对深度学习有更加深刻的理解，但是总还不是很清晰。后来看了LiFeiFei的Sta
转载
2024-01-16 22:13:43
80阅读
神经网络模型的训练过程其实质上就是神经网络参数的设置过程在神经网络优化算法中最常用的方法是反向传播算法，下图是反向传播算法流程图：从上图可知，反向传播算法实现了一个迭代的过程，在每次迭代的开始，先需要选取一小部分训练数据，这一小部分数据叫做一个batch。然后这一个batch会通过前向传播算法得到神经网络的预测结果。计算出当前神经网络的预测答案与正确答案之间的差距（有监督学习，在训练时有一个标注好
转载
2023-07-05 22:14:52
233阅读
完整的 PyTorch 模型训练的过程：1、数据预处理：首先，需要加载和准备数据。这可以通过使用 torchvision 和 torch.utils.data 中的数据加载器来完成。同时要进行数据预处理，例如缩放、裁剪、旋转、填充等。2、构建模型：接下来，需要定义神经网络模型。PyTorch 提供了一个 nn 模块来快速构建神经网络。该模块包括各种层（例如全连接层、卷积层、池化层等），可以使用它们
转载
2023-08-21 11:37:58
272阅读
有一个训练了12个小时的神经网络，各方面看起来都不错：梯度缓慢下降、损失也在逐渐降低，但是预测结果却不好：输出全是0值（全都预测为背景），没有检测出任何标签。“到底是什么地方出错了？”——叫天天不应叫地地不灵╮(╯▽╰)╭ 对于上述情况，或者另一种垃圾输出的情况——预测值只是所有标签的平均值，再或者更差的情况，模型准确率非常低…我们应该从什么地方开始检查模型呢？如何使用这个指南网络训练效
转载
2024-03-08 21:33:29
31阅读
本文涉及到的是中国大学慕课《人工智能实践：Tensorflow笔记》第四讲第六节的内容，通过tensorflow实现神经网络参数的acc/loss可视化，从而查看网络的训练效果。准确率acc与损失值loss的保存在下面所示的代码中，model.fit执行网络的训练时，已经同步记录了acc和loss的信息，保存在history中。# 第五步，执行训练
history=model.fit( 训练集数据
转载
2023-10-27 17:00:52
94阅读
神经网络构建好，训练不出好的效果怎么办？明明说好的拟合任意函数(一般连续)(为什么？可以参考http://neuralnetworksanddeeplearning.com/)，说好的足够多的数据(https://en.wikipedia.org/wiki/Occam's_razor)，仔细设计的神经网络都可以得到比其他算法更好的准确率和泛化性
转载
2023-11-08 00:30:54
64阅读
1、先别着急写代码训练神经网络前，别管代码，先从预处理数据集开始。我们先花几个小时的时间，了解数据的分布并找出其中的规律。
Andrej有一次在整理数据时发现了重复的样本，还有一次发现了图像和标签中的错误。所以先看一眼数据能避免我们走很多弯路。
转载
2023-07-31 16:44:18
74阅读
简单来说，预训练模型(pre-trained model)是前人为了解决类似问题所创造出来的模型。你在解决问题的时候，不用从零开始训练一个新模型，可以从在类似问题中训练过的模型入手。比如说，如果你想做一辆自动驾驶汽车，可以花数年时间从零开始构建一个性能优良的图像识别算法，也可以从Google在ImageNet数据集上训练得到的inception model(一个预训练模型)起步，来识别图像。一个预
转载
2024-01-17 08:01:21
47阅读
神经网络的重要概念输入（x）输出（y）、标签（label）输入是指传入给网络处理的向量，相当于数学函数中的变量。输出是指网络处理后返回的结果，相当于数据函数中的函数值。标签是指我们期望网络返回的结果。损失函数（loss function）损失函数评估网络模型的好坏，值越大，表示模型越差，值越小，表示模型越好。因为传入大量的训练集训练的目标，就是将损失函数的值降到最小。常见的损失函数定义：差的平方和
转载
2023-08-08 18:00:31
474阅读
第四章 前向型神经网络 4.3 BP传播网络1，BP网络的创建函数。 （1）newcf 函数 功能：用来创建级联前向BP网络，调用格式：net=newcf(P,T,[S1,S2……S(N-1)]{TF1,TF2…TFN},BTF,BLF,PF,IPF,OPF,DDF)P,T为每组输入元素的最大值和最小值组成的R*2维矩阵；Si为第i层的长度，共计NI层；TFi为第i层的传递函数，默认为”tans
转载
2023-07-06 20:26:28
386阅读
目录导语1. 训练数据2. 选择恰当的激励函数（activation function）3. 隐藏单元和隐层（Hidden Units and Layers）的数量4. 权重初始化 （Weight Initialization）5. 学习率6. 超参数调参：扔掉网格搜索，拥抱随机搜索7. 学习方法8. 权重的维度保持为 2 的幂9. 无监督预训练（Unsupervised Pretraining
转载
2023-10-11 23:11:09
50阅读
