文章目录一、卷积层1. 卷积核1.1 卷积操作2. 输出层计算公式3.计算量分析4.参数量计算二、BN层1. 为什么要进行BN？2.BN操作步骤2.1 为什么是mini-batch？2.2为什么BN层一般用在线性层和卷积层后面，而不是放在非线性单元后3. Batch Normalization 优缺点3.1 Batch Normalization 优点3.2 Batch Normalizatio
转载
2024-03-18 20:59:44
204阅读
声明一点，我是工程应用人员，此文章仅适合算法应用工程师。1、首先先看一下YOLO的整体结构：2、其次看一下YOLO的工作过程：(1) 将原图划分为SxS的网格。如果一个目标的中心落入某个格子，这个格子就负责检测该目标。(2) 每个网格要预测B个bounding boxes，以及C个类别概率Pr(classi|object)。(3) 每个bounding box除了要回归自身的位置之外，还要附带预测
转载
2024-09-03 13:24:50
47阅读
NN 会受到短时记忆的影响。如果一条序列足够长，那它们将很难将信息从较早的时间步传送到后面的时间步。 因此，如果你正在尝试处理一段文本进行预测，RNN 可能从一开始就会遗漏重要信息。在反向传播期间，RNN 会面临梯度消失的问题。 梯度是用于更新神经网络的权重值，消失的梯度问题是当梯度随着时间的推移传播时梯度下降，如果梯度值变得非常小，就不会继续学习。 &nb
一个实验效果很好的激活函数。。。。。 可能是单纯试出来的。。。。。简介Swish是Google在10月16号提出的一种新型激活函数,其原始公式为:f(x)=x * sigmod(x),变形Swish-B激活函数的公式则为f(x)=x * sigmod(b * x),其拥有不饱和,光滑,非单调性的特征,而Google在论文中的多项测试表明Swish以及Swish-B激活函数的性能即佳,在不同的数据集
转载
2024-08-25 22:09:02
140阅读
YOLOv5简易使用笔记前言：这篇博客只是简单记录下YOLOv5的使用方式，并不会详细介绍代码含义之类的。 环境：YOLOv5Python 3.8.1YOLOv5目录介绍从Github上下载解压好最新的YOLOv5文件后的目录如下图data文件夹里面放着yaml文件，就是数据集的一些配置，是比较重要的，在训练自己数据集的时候会用到这个文件夹。model文件夹里面放着一些官方的参数模型，里面有4个y
YOLO，即You Only Look Once的缩写，是一个基于卷积神经网络的物体检测算法。而YOLO v3是YOLO的第3个版本，即YOLO、YOLO 9000、YOLO v3，检测效果，更准更强。YOLO v3的更多细节，可以参考YOLO的官网。YOLO是一句美国的俗语，You Only Live Once，你只能活一次，即人生苦短，及时行乐。本文主要分享，如何实现YOLO v3的算法细节，
我爱计算机视觉报道| 公众号 aicvml来自法国 Capgemini Invent 公司的高级数据科学家 Ahmed BESBES 三个月前参加了一个其公司内部的比赛：使用机器学习方法帮助海洋科学家更好的识别鲸鱼，根据鲸尾页突的外观作为主要特征。比赛要求对于每一幅测试图像模型要给出最相似的前20幅图像，这不是一个简单的分类任务而是相似检索任务。 最终，Ahmed获得了第
每个网格要预测B个bounding box，每个bounding box除了要回归自身的位置之外，还要附带预测一个confidence值。 confidence代表了所预测的box中含有object的置信度和这个box预测的有多准两重信息。YOLO的一些细节：1：每个grid有30维，这30维中，8维是回归box的坐标，2维是box的confidence，还有20维是类别。 2
文章目录引言修改backbone为 shufflenetv2第一步、定义模块第二步、注册模块第三步、配置结构第四步、使用结语 引言YOLOV5是一个速度和精度表现都非常优秀的目标检测算法，但我们在使用过程中有自己各种各样的需求，官方原本的代码可能不能满足我们需要，比如检测小目标，我们就需要使用对小目标检测效果好的Backbone，或者想要移植到嵌入设备上，我们就需要轻量化的Backbone。因此
转载
2024-06-05 11:39:38
436阅读
1. 修改网络结构----以yolov8 的C2F为例借鉴的代码：http://github.com/ultralytics/ultralytics修改顺序：1）models/commons.py ------------ 加入新增网络结构打开models，复制里面的c2f模块，到yolov5的common.py里面。class C2f(nn.Module):
# CSP Bottlene
转载
2024-08-27 22:05:39
1073阅读
神经网络之激活函数(Activation Function) 补充：不同激活函数(activation function)的神经网络的表达能力是否一致？ 激活函数理论分析对比 n)件事：为什么需要激活函数？激活函数都有哪些？都长什么样？有哪些优缺点？怎么选用激活函数？ 本文正是基于这些问题展开的，欢迎批评指正！ (此图并没有什么卵用，纯属为了装x …)Why use activati
转载
2024-08-30 16:06:40
73阅读
在本文中，作者对包括 Relu、Sigmoid 在内的 26 种激活函数做了可视化，并附上了神经网络的相关属性，为大家了解激活函数提供了很好的资源。在神经网络中，激活函数决定来自给定输入集的节点的输出，其中非线性激活函数允许网络复制复杂的非线性行为。正如绝大多数神经网络借助某种形式的梯度下降进行优化，激活函数需要是可微分（或者至少是几乎完全可微分的）。此外，复杂的激活函数也许产生一些梯度消失或爆炸
转载
2024-02-11 08:47:22
115阅读
什么是激活函数？ 激活函数（Activation functions）对于人工神经网络模型去学习、理解非常复杂和非线性的函数来说具有十分重要的作用。它们将非线性特性引入到我们的网络中。其主要目的是将A-NN模型中一个节点的输入信号转换成一个输出信号。该输出信号现在被用作堆叠中下一个层的输入。如果我们不运用激活函数的话，则输出信号将仅仅是一个简单的线性函数。线性函数一个一级多项式。现如今，线性方程
一。线性神经元：实现输入信息的完全传导（仅为概念基础） 由于激活函数是线性结构，多层神经网络可以用单层表达，因此神经网络层数的增加并不会增加网络的复杂性，因此只用于概念，实际不会使用二。线性阈值神经元 1.输出和输入都是二值的 2.每个神经元都有固定的阈值θ 3.每个神经元都从带全激活突触接受信息 4.抑制突触对任意激活突触有绝对否决权 5.每次汇总带全突触和，若>θ则不存在抑制，如<
转载
2024-08-01 21:17:00
89阅读
目录1. 什么是激活函数2. 激活函数作用3. 常见的几种激活函数3.1 Sigmoid激活函数3.2 step function（阶跃函数）3.3 Tanh(双曲正切函数)激活函数3.4 ReLU函数3.5 Leaky ReLU函数（PReLU）3.6 ELU (Exponential Linear Units) 函数4. 如何选择合适的激活函数参考资料： 1. 什么是激活函数f(z)函数会把
转载
2024-08-21 10:42:28
251阅读
激活函数1 激活函数作用2 激活函数类型2.1 softmax（一般只用于最后一层进行分类,准确说应该叫分类函数了）2.2 Sigmoid2.3 tanh 函数（the hyperbolic tangent function，双曲正切函数）：2.4 ReLU 1 激活函数作用激活函数（Activation functions）对于人工神经网络 [1] 模型去学习、理解非常复杂和非线性的函数来说具
转载
2024-03-18 20:15:43
112阅读
【 tensorflow中文文档：tensorflow 的激活函数有哪些】激活函数可以分为两大类 ：饱和激活函数： sigmoid、 tanh非饱和激活函数: ReLU 、Leaky Relu 、ELU【指数线性单元】、PReLU【参数化的ReLU 】、RReLU【随机ReLU】相对于饱和激活函数，使用“非饱和激活函数”的优势在于两点：
转载
2024-03-21 09:47:47
327阅读
一、什么是激活函数？简单的说，激活函数就是在神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端，它的作用是为了增加神经网络模型的非线性变化。 神经元(Neuron)内右侧的函数，就是激活函数(Activation) 二、深度学习(Deep learning)中的激活函数饱和激活函数问题 假设h(x)是一个激活函数。1. 当我们的n趋近于正无穷
转载
2024-05-30 10:28:14
391阅读
什么是激活函数？激活函数（Activation functions）对于神经网络模型学习与理解复杂和非线性的函数来说具有十分重要的作用。它们将非线性特性引入到我们的网络中。如果网络中不使用激活函数，网络每一层的输出都是上层输入的线性组合，无论神经网络有多少层，输出都是输入的线性组合。如果使用的话，激活函数给神经元引入了非线性因素，使得神经网络可以任意逼近任何非线性函数，此时神经网络就可以应用到各类
转载
2024-05-15 10:25:38
404阅读
ReLU 在神经网络中，常用到的激活函数有sigmoid函数： f(x)=11+e−x而本文要介绍的是另外一种激活函数，Rectified Linear Unit Function(ReLU, 线性激活函数) ReLU函数可以表示为 f(x)=max(0,x)显然，线性激活函数简单地将阈值设置在零点，计算开销大大降低，而且很多工作显示 ReLU 有助于提升效果 sigmoid、tanh
转载
2024-04-04 07:28:11
120阅读
