文章目录一、NumPy通用函数1、什么是通用函数2、常见的一元通用函数如下：3、常见的二元通用函数如下表：二、利用NumPy数组进行数据处理1、将条件逻辑转为数组运算2、数组统计运算3、数组排序(==sort()方法没有返回值==)4、检索数组元素5、唯一化及其他集合逻辑 一、NumPy通用函数1、什么是通用函数通用函数(ufunc)是一种针对ndarray中的数据执行元素级运算的函数。注意：函
转载
2024-05-14 15:47:55
49阅读
引言NumPy是Python的一个扩展库，负责数组和矩阵运行。相较于传统Python，NumPy运行效率高，速度快，是利用Python处理数据必不可少的工具。这个NumPy快速入门系列分为四篇，包含了NumPy大部分基础知识，每篇阅读时间不长，但内容含量高。大家最好亲自码一遍代码，这样可以更有收获。前面的课程：Python进阶之NumPy快速入门(一)Python进阶之NumPy快速入门(二)概要
转载
2024-02-23 11:54:51
64阅读
这个问题有点像问，吃涮羊肉为什么蘸芝麻酱？标准答案是：10亿AI调参侠都在用，用了都说好。但如果我们稍微深究一下，会更加深记忆，也增加对深度学习过程的理解。首先我们要明白，为什么要蘸东西吃？即：为什么要使用sigmoid，tanh，ReLU等非线性函数？这个原因大家都知道，为了增加非线性呗！深度学习的目的是用一堆神经元堆出一个函数大致的样子，然后通过大量的数据去反向拟合出这个函数的各个参数，最终勾
转载
2024-07-05 22:50:20
58阅读
字符串函数add()：对两个数组的逐个字符串元素进行连接。 multiply()：返回按元素多重连接后的字符串。 center()：居中字符串。capitalize()：将字符串第一个字母转换为大写。title()：将字符串的每个单词的第一个字母转换为大写。lower()：数组元素转换为小写。upper()：数组元素转换为大写。split()：指定分隔符对字符串进行分割，并返回
转载
2024-03-25 09:36:20
99阅读
预训练的用处：规则化，防止过拟合；压缩数据，去除冗余；强化特征，减小误差；加快收敛速度。 标准的sigmoid输出不具备稀疏性，需要用一些惩罚因子来训练出一大堆接近0的冗余数据来，从而产生稀疏数据，例如L1、L1/L2或Student-t作惩罚因子。因此需要进行无监督的预训练。 而ReLU是线性修正，公式为：g(x) = max(0, x)，是purelin的折线版。它的作用是如果计算出的值小于
转载
2024-03-25 19:55:55
149阅读
reshape方法详解二维数组1. 定义2. 二维数组的变形三维数组及以上1. 定义2. 三维数组的变形3. 三维数组的赋值4. 识别数组维数的小技巧参考文章 二维数组1. 定义由多个一维列表一行一行堆叠形成二维。（这些一维数组必须相同长度的）#创建一个二维数组。（体会堆叠的过程）
import numpy as np
a = [1, 2, 3] ; b = [4, 5, 6]; c = [7,
转载
2024-03-26 06:03:25
134阅读
非线性激活在神经网络的搭建中很重要，我们可以简单的理解为非线性变化的目的就是为神经网络中引入非线性特征，这样才能训练出符合各种特征，各种曲线的模型。文章目录二、非线性激活函数ReLU和Sigmoid的使用1.ReLU函数1.1 ReLU函数的官方文档1.2 实例练习2.Sigmoid函数2.1Sigmoid函数的官方文档2.2 实例练习 一、激活函数是什么激活函数是指在多层神经网络中，上
转载
2024-04-07 08:03:28
109阅读
学习 PyTorch 比较简单，但你能学习 PyTorch 内部机制吗？最近，有 14 年 ML 经验的大神 Christian 介绍了 PyTorch 的内核机制。虽然在实际使用中并不需要这些知识，但探索 PyTorch 内核能大大提升我们对代码的直觉与理解，挖底层实现的都是大神~
PyTorch 的构建者表明，Pytorch 的哲学是解决当务之急，也就是说即时构建和运行
在神经网络中，激活函数负责将来自节点的加权输入转换为该输入的节点或输出的激活。ReLU 是一个分段线性函数，如果输入为正，它将直接输出，否则，它将输出为零。它已经成为许多类型神经网络的默认激活函数，因为使用它的模型更容易训练，并且通常能够获得更好的性能。在本文中，我们来详细介绍一下ReLU，主要分成以下几个部分：1、Sigmoid 和 Tanh 激活函数的局限性2、ReLU（Rectified L
转载
2024-04-02 20:41:18
97阅读
目录1 激活函数的定义2 激活函数在深度学习中的作用3 选取合适的激活函数对于神经网络有什么样的重要意义4 常用激活函数4.1 Relu 激活函数4.2 sigmoid 激活函数4.3 Tanh激活函数4.4 softmax 激活函数1 激活函数的定义激活函数（Activation Function），就是在人工神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端。激活函数（Ac
转载
2024-03-18 15:46:29
110阅读
激活函数能分成两类——饱和激活函数和非饱和激活函数。饱和的概念：右饱和： 当x趋向于正无穷时，函数的导数趋近于0，此时称为右饱和。左饱和： 当x趋向于负无穷时，函数的导数趋近于0，此时称为左饱和。饱和函数和非饱和函数： 当一个函数既满足右饱和，又满足左饱和，则称为饱和函数，否则称为非饱和函数。1、sigmoid和tanhsigmoid和tanh是“饱和激活函数”，而ReLU及其变体则是“非饱和激活
转载
2024-08-04 14:42:01
88阅读
ReLU为什么比Sigmoid效果好附：双曲函数类似于常见的(也叫圆函数的)三角函数。基本双曲函数是双曲正弦"sinh"，双曲余弦"cosh"，从它们导出双曲正切"tanh"sigmod函数：Relu函数：综合： 为什么通常Relu比sigmoid和tanh强，有什么不同？1、相比Sigmoid和tanh，ReLU摒弃了复杂的计算（这里指的是幂运算），提高了运算速度；2、对于深层的网络而
转载
2024-04-21 19:50:27
137阅读
训练的时候很”脆弱”，很容易就”die”了，训练过程该函数不适应较大梯度输入，因为在参数更新以后，ReLU的神经元不会再有激活的功能，导致梯度永远都是零。
例如，一个非常大的梯度流过一个 ReLU 神经元，更新过参数之后，这个神经元再也不会对任何数据有激活现象了，那么这个神经元的梯度就永远都会是 0.
如果 learning rate 很大，那么很有可能网络中的 40% 的神经元都”dead”了。
转载
2024-07-30 14:59:55
70阅读
经典激活函数代码实现与函数经典激活函数reLUsoftplustanhsigmoidsoftmax代码实现图像绘制结果 经典激活函数relu、softplus、tanh、sigmoid、softmaxreLU线性整流函数（Rectified Linear Unit, ReLU） 而在神经网络中，Relu作为神经元的激活函数，定义了该神经元在线性变换之后的非线性输出结果。换言之，对于进入神经元的来
转载
2024-06-04 05:35:37
75阅读
激活函数（Activation Function），就是在人工神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端。引入激活函数是为了增加神经网络模型的非线性。没有激活函数的每层都相当于矩阵相乘。就算你叠加了若干层之后，无非还是个矩阵相乘罢了。如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合，这种情况就是最原始的感知机（Perceptron）
转载
2023-12-09 08:48:59
179阅读
零基础学caffe源码 ReLU激活函数 原创
2016年08月03日 17:30:19
1、如何有效阅读caffe源码 1、caffe源码阅读路线最好是从src/cafffe/proto/caffe.proto开始，了解基本数据结构内存对象和磁盘文件的一一映射关系，中间过程都由ProtoBuffer工具自动完成。 &n
转载
2024-09-02 17:24:20
45阅读
1. ReLU 函数层激活函数 ReLU（Rectified Linear Unit）由下式（5.7）表示。 通过式（5.7），可以求出 y 关于 x 的导数，如式（5.8）所示。 在式（5.8）中，如果正向传播时的输入 x 大于0，则反向传播会将上游的值原封不动地传给下游。反过来，如果正向传播时的 x 小于等于0，则反向传播中传给下游的信号将停在此处。用计算图表示的话，如图5-18 所示。 在神
转载
2024-04-30 12:44:06
255阅读
1、如何有效阅读caffe源码 1、caffe源码阅读路线最好是从src/cafffe/proto/caffe.proto开始，了解基本数据结构内存对象和磁盘文件的一一映射关系，中间过程都由ProtoBuffer工具自动完成。 2、看include/目录中.hpp头文件，通过头文件类申明理解整个框架。从基类向派生类，掌握这
转载
2024-08-30 16:59:26
98阅读
文章目录前言ReLU（Rectified Linear Unit）Leaky ReLUFReLU（Flatten ReLU）SiLU（Sigmoid Linear Unit）总结 前言在这里，我就简单写一下两个激活函数的概念以及区别，详细的过程可以看看其他优秀的博主，他们写的已经非常好了，我就不必再啰嗦了。ReLU（Rectified Linear Unit）和SiLU（Sigmoid Line
转载
2024-03-21 10:50:31
215阅读
无论在深度学习还是在机器学习中，激活函数是必不可少的，这里做下总结。修正线性单元 ReluRectified linear unit。深度学习用的最多的3个激活函数之一，为什么说他在深度学习中用的多呢？因为简单，速度快。。下面给出图与公式。输出值范围[0，1)。·特点：计算量小；很多x的左侧都为提高网络的稀疏性，降低过拟合的发生；降低出现梯度为0的机会，从上图不难看出，ReLU函数其实是分段线性函
转载
2024-08-21 11:02:09
196阅读
