专门针对神经网络的一些改善方法
学习资料：深度学习课程笔记、deeplearning.ai的《改善深层神经网络》、《python深度学习》另一篇笔记《结构化机器学习项目》对所有机器学习项目都有帮助，这篇笔记是专门针对神经网络的一些改善方法。一. 解决过拟合问题解决过拟合的方向有两个：降低参数空间的维度、降低每个维度上的有效规模。或者还可以从根源上增加数据
转载
2023-08-01 18:25:58
1290阅读
通过训练，神经网络就可以使用更低精度的数据格式（包括浮点、定点和整数）进行推理。低精度数据格式提供了几个性能优势：许多处理器通过 low-bit 格式提供更高吞吐量的数学管道，这可以加快计算密集型的运算，如卷积和矩阵乘法；低精度的数据格式可以减少了内存带宽压力，提高了带宽有限计算的性能；低精度的数据格式可以降低内存大小的需求，这可以提高缓存利用率以及内存系统操作的其他方面。本文主要研究神经网络模型
转载
2023-11-16 20:07:25
152阅读
注：本文先讲解理论部分，之后会用pytorch给出示例神经网络是一种在很多用例中能够提供最优准确率的机器学习算法。但是，很多时候我们构建的神经网络的准确率可能无法令人满意，或者无法让我们在数据科学竞赛中拿到领先名次。所以，我们总是在寻求更好的方式来改善模型的性能。有很多技术可以帮助我们达到这个目标。本文将介绍这些技术，帮助大家构建更准确的神经网络。过拟合过拟合，典型的表现为训练集损失远远小于验证集
转载
2023-10-13 00:05:38
8阅读
芯东西(ID：aichip001)编 | 温淑芯东西5月19日消息，近日，位于瑞士苏黎世的IBM欧洲研发中心研发出一种基于相变存储器(PCM)的非·冯诺依曼架构芯片技术，能像人脑一样在存储中执行计算任务，以超低功耗实现复杂且准确的深度神经网络推理。IBM研究人员用ResNet分类网络进行实验，在将训练后的权重映射到PCM突触后，在CIFAR-10数据集上和准确率达到93.7％，在Imag
转载
2023-11-07 15:01:07
123阅读
卷积神经网络 GoogLeNet1. 介绍 我们之前已经讲解过 AlexNet，在这个基础上我们来学习一下 GoogLeNet。 GoogLeNet 获得了 2014 年 ImageNet 挑战赛 (ILSVRC14) 的第一名。那么 GoogLeNet 是如何提升网络性能的呢？ 一般来说，提升网络性能最直
【导读】自从2012年深度学习兴起以来，深度，宽度，多尺度，分辨率，group数目，注意力模块等等都是影响卷积神经网络性能的关键因素。因此，后面大多网络比如：VGGNet、HighwayNet、ResNet、IResNet等通过增加网络的深度来提高性能，而Inception系列则是从宽度层面逐渐提高卷积神经网络性能. 详细解读见一文详解Inception家族的前世今生（从Inceptio
转载
2024-01-16 20:45:34
52阅读
提高输出结果的准确度可以从以下几个方面入手：1、调整超参数：可以尝试调整模型的超参数，比如学习率、迭代次数、隐层维度、卷积核大小等，找到最优的超参数组合来提高准确度。2、增加训练数据：增加训练数据可以让模型更好地学习到数据的特征，从而提高准确度。可以通过数据增强技术来扩充数据集，比如旋转、平移、缩放、翻转等操作。3、添加正则化：在模型训练过程中添加正则化，可以帮助防止过拟合，提高模型泛化能力。可以
转载
2023-11-07 13:27:00
921阅读
目录深度卷积神经网络经典网络残差网络为什么残差有效？\(1\times1卷积\)Inception网络简介Inception网络深度卷积神经网络经典网络LeNet-5模型是Yann LeCun教授于1998年提出来的，它是第一个成功应用于数字识别问题的卷积神经网络。在MNIST数据中，它的准确率达到大约99.2%。典型的LeNet-5结构包含CONV layer，POOL layer和FC lay
转载
2023-11-21 15:55:02
132阅读
1.PSMNet2.双目测距3. PlaneRCNN 单幅图像的三维平面检测与重建4.ARCore SDK for Android5.菜鸟全球科技挑战赛「智能体积测量」６.基于vSLAM的方法７.基于SFM的MVSNet 1.PSMNet最新的研究表明，利用一对立体图像来估算深度信息可以格式化为一个有监督的学习任务，进而通过卷积神经网络来解决。然而，当前基于图块匹配的Siame
转载
2024-01-31 07:27:46
62阅读
深度信念网络（DBN）深度信念网络是一个概率生成模型，与传统的判别模型的神经网络相对，生成模型是建立一个观察数据和标签之间的联合分布，对P(Observation|Label)和 P(Label|Observation)都做了评估，而判别模型仅仅而已评估了后者，也就是P(Label|Observation)。 原文： DBNs由多个限制玻尔兹曼机（Restricted Boltzmann
转载
2024-01-26 07:37:51
83阅读
1.增加数据集的数量由于深度神经网络需要喂入大量的数据才能提高他的性能（特点），有时候简单的增加容量可以提高准确（吴恩达大佬视频内介绍深度学习崛起制作的图） 2.提高数据的差异性，随机性，即增加数据的特征不要选取过于接近的样本3.对数据进行预处理归一化，标准化...4.调整batch_size大小Batch_Size 太小，算法在 相当多的epoch内不收敛。随着 Batch_Size
转载
2023-05-25 13:47:36
176阅读
导读由Michael Nielsen所著，他是实验媒体研究工作室的联合创始人，曾是 YC Research 的 Research Fellow。。 本书深入了讲解神经网络和深度学习技术，侧重于阐释深度学习的核心概念。作者以技术原理为导向，辅以贯穿全书的 MNIST 手写数字识别项目示例，介绍神经网络架构、反向传播算法、过拟合解决方案、卷积神经网络等内容，以及如何利用这些知识
## 神经网络分类准确率
神经网络是一种模拟人脑神经元之间相互连接的数学模型，具有强大的模式识别和分类能力。在机器学习领域，神经网络常被用于图像分类、语音识别等任务。而分类准确率是衡量神经网络性能的重要指标之一。
### 神经网络分类准确率的定义
神经网络分类准确率是指在一个分类问题中，神经网络正确分类的样本数占总样本数的比例。通常用百分比表示，准确率越高，神经网络的性能越好。
假设有一个
原创
2023-09-16 12:18:46
360阅读
第三周 - 浅层神经网络第 21 题以下哪项是正确的？（选出所有正确项）A.\(a^{[2](12)}\)是第12层，第2个训练数据的激活向量B.\(X\)是一个矩阵，其中每个列是一个训练数据C.\(a^{[2]}_4\)是第2层，第4个训练数据的激活输出D.\(a^{[2]}_4\)是第2层，第4个神经元的激活输出E.\(a^{[2]}\)表示第2层的激活向量F.\(a^{[2](12)}\)是
转载
2024-01-15 13:57:38
49阅读
这个系列记录下自己的深度学习练习，本文算是对上一篇文章的补充，算是稍微进阶一些的图像处理方法。之前的模型都是自己从头开始构建，如果网络上有别人已经写好的模型，我们就可以对其微调，然后使用自己的数据集进行分析，可以节省构建模型的步骤。而且这些外部模型一般样本量很大，算是真正经过大数据考验的模型，如果和你在分析的问题类似，且你自己手头上的数据较少，用这种预处理的模型就非常有效。使用预训练
转载
2024-01-20 21:57:50
176阅读
一、RNN（循环神经网络）1.1 RNN与全连接神经网络的区别RNN比全连接神经网络多了参数h0，因此RNN的神经元公式比全连接神经网络的神经元多一项。 训练过程与全连接神经网络并无区别：梯度下降原则 此时输出层的神经元公式为： 整一个RNN结构共享1组（u,w,b），这是RNN结构最重要的特性，且每一个隐藏层神经元h的计算公式是由当前输入x与上一个隐藏层神经元的输出组成。1.2 RNN循环神经网
转载
2023-10-27 06:39:18
105阅读
神经网络是一种机器学习算法，它可以提高许多用例（项目）的精确度。但是，很多时候我们构建的神经网络的准确性可能不令人满意，或者可能无法让我们排在数据科学竞赛排行榜的头号位置。因此，我们一直在寻找更好的方法来改善模型的性能。并且有很多技术可以帮助我们实现这一目标，本文的目标就是向各位介绍这些技术，希望各位在本文的帮助下能够建立自己的准确度更高的神经网络。检查是否过度拟合 确保你的神经网络在测试数
转载
2023-11-02 13:18:28
175阅读
现在开始说说在yolo之后的第二代版本，这个第二代在第一代的基础上做了很多的优化。原来的版本在准确度，速度，容错率上都有所欠缺。下面来说说为了在这方面有所提高作者采用了那些方法。这一篇先说准确度。一、更精确（Better）1、Batch Normalization（批正则化）首先先了解一下神经网络中的归一化，通常在神经网络训练开始前,都要对输入数据做一个归一化处理,那么具体为什么需要归一化呢?归一
转载
2023-11-10 12:43:10
160阅读
手写识别相关知识步骤第一步第二步第三步问题拓展 步骤在安装完所有的库之后，之后可以按照下面操作而不用文档里面的操作。第一步在python安装目录下创建一个workplace目录或者其他名字，把从gitee下载的文件里面的源码放到该目录下。第二步在如图位置，双击输入cmd，进入终端控制器 输入jupyter notebook，会产生链接，复制打开第三步打开下面文件 点击运行 会看到运行后括号内的数
转载
2023-11-06 13:19:42
45阅读
学了蛮久的目标检测了，但是有好多细节总是忘或者模棱两可，感觉有必要写博客记录一下学习笔记和一些心得，既可以加深印象又可以方便他人。博客内容集成自各大学习资源，所以图片也就不加水印了，需要自取。本专栏会详细记录本人在研究目标检测过程中的所学所感，主要包括：1.目标检测算法解读，如R-CNN系列、YOLO系列；2.论文阅读笔记；3.其它目标检测相关的概念和技巧，如attention机制的应用。由于水平
转载
2024-01-12 14:53:28
42阅读
