开局先放一张图。神经网络的大致发展过程就如上图，俗称三起两落。起点：McCulloch和Pitts发表的神经网络开山大作：A Logical Calculus if Ideas Immanent in Nervous Activity，提出了神经元计算模型。在这里要插入一段，人工智能出现之初，科学家们分成了两个派别，一派是写实的符号派，认为一定要通过逻辑和符号系统实现人工智能；另一派是写意的仿生派
转载
2023-12-29 19:22:59
120阅读
目录摘要定义类模型层nn.Flattennn.Linearnn.ReLUnn.Sequentialnn.Softmax模型参数 摘要神经网络由对数据执行操作的层/模块组成。 torch.nn 命名空间提供了构建自己的神经网络所需的所有构建块。 PyTorch 中的每个模块都是 nn.Module 的子类。 神经网络是一个模块本身，由其他模块（层）组成。 这种嵌套结构允许轻松构建和管理复杂的架构。
转载
2023-11-01 16:49:23
165阅读
神经网络是人工智能中深度学习的一个重要技术，但是神经网络也是具有一定的局限性的，在处理特殊场景的时候会有一点麻烦，然而现在有一种特殊的方式使得神经网络能够比以前更强大，这种技术就是复合型神经网络。那么复合性神经网络有什么优点呢？下面我们就给大家介绍一下这个概念。其实如果要想了解复合性神经网络，就需要知道复合性的原则，而复合性是一条通用原则，我们可以把它描述为一种相信世界是可知的信念，我们可以把事
转载
2023-10-11 16:27:27
134阅读
一、卷积卷积神经网络(Convolutional Neural Networks)是一种在空间上共享参数的神经网络。使用数层卷积，而不是数层的矩阵相乘。在图像的处理过程中，每一张图片都可以看成一张“薄饼”，其中包括了图片的高度、宽度和深度（即颜色，用RGB表示）。在不改变权重的情况下，把这个上方具有k个输出的小神经网络对应的小块滑遍整个图像，可以得到一个宽度、高度不同，而且深度也不同的新图像。在不
转载
2023-11-27 09:47:41
504阅读
DCCRN: Deep Complex Convolution Recurrent Network for Phase-Aware Speech EnhancementDCCRN：用于相位感知的语音增强的深度复数卷积递归网络摘要随着深度学习的成功语音增强在可理解性和可感知质量方面都有了提升。传统上，在时频(TF)上的方法主要是通过简单的卷积神经网络(CNN)或循环神经网(RNN)预测时频的遮罩矩阵
转载
2024-02-19 12:40:40
287阅读
机器学习自学-初识神经网络0.基本概念循环神经网络（Recurrent Neural Network，RNN）：是神经网络的一种，RNN对具有序列特性的数据非常有效，它能挖掘数据中的时序信息以及语义信息。那么什么是神经网络呢？神经网络的作用又是什么呢？可参考：https://zhuanlan.zhihu.com/p/65472471https://baike.baidu.com/item/%E7%
转载
2023-12-19 20:53:29
404阅读
目录循环神经网络与卷积神经网络循环神经网络的梯度消失问题循环神经网络中的激活函数长短期记忆网络Seq2Seq模型注意力机制循环神经网络与卷积神经网络1. 处理文本数据时，循环神经网络与前馈神经网络相比有什么特点？（1）在神经网络的建模过程中，一般的前馈神经网络，如卷积神经网络，通常接受一个定长的向量作为输入。卷积神经网络对文本数据建模时，输入变长的字符串或者单词串，然后通过滑动窗口加池化的方式将原
转载
2024-02-18 15:12:17
42阅读
神经网络学习小记录58——Keras GhostNet模型的复现详解学习前言什么是GhostNet模型源码下载GhostNet模型的实现思路1、Ghost Module2、Ghost Bottlenecks3、Ghostnet的构建GhostNet的代码构建1、模型代码的构建2、Yolov4上的应用 学习前言GhostNet是华为诺亚方舟实验室提出来的一个非常有趣的网络，我们一起来学习一下。什么
转载
2023-12-21 06:55:07
135阅读
深度学习概述理论上来说，参数越多的模型复杂度越高、容量越大，这意味着它能完成更复杂的学习任务。但一般情形下，复杂模型的训练效率低，易陷入过拟合。随着云计算、大数据时代的到来，计算能力的大幅提高可以缓解训练的低效性，训练数据的大幅增加可以降低过拟合风险。因此，以深度学习（Deep Learning，DL）为代表的复杂模型受到了关注深度学习是机器学习（Machine Learning，ML）领域中一个
转载
2023-11-27 11:19:41
2阅读
文章目录前言一、问题描述二、官方代码三、代码讲解1.参数初始化2.torch.nn2.1torch.nn.Relu和torch.nn.Linear2.2 神经网络参数的初始化3 Sequential4.nn中的损失函数5. 梯度清零6. 参数更新总结 前言 本系列主要是对pytorch基础知识学习的一个记录，尽量保持博客的更新进度和自己的学习进度。一、问题描述 此次需要构建的神经网络其实和前
转载
2023-09-06 17:57:23
62阅读
在pytoch中使用torch.nn命名空间提供了你需要建立自己的神经网络的基石。在PyTorch每个模块的子类nn.Module。神经网络是一个模块本身，由其他模块（层）组成。导入你所需要的模块假设构建一个网络模型如下：卷积层--》Relu层--》池化层--》全连接层--》Relu层--》全连接层
import os
import torch
from torch import nn
fro
转载
2023-10-09 00:01:04
159阅读
小白一枚最近接触了pytorch框架，细读了pytorch之实战计算机视觉，唐进民一书，这里做个笔记，希望能好好学习一下这个框架。1.手动计算梯度 一个batch（批次）的数据从输入到输出的完整过程是：先输入100个具有1000个特征的数据x，经过隐藏层后变成了100个具有100个特征的数据，再经过输出层输出100个具有10个分类结果值的数据y，在得到结果后计算损失并反向传播，这样就完成了一次训
转载
2023-08-19 17:42:20
157阅读
点赞
目录1.写在前面2.建立数据集3.建立神经网络4.训练网络5.可视化训练过程1.写在前面 上篇博客我们详细介绍了PyTorch在解决回归问题上，主要的解决方法步骤。在日常任务中，除了回归任务，另外一个比较常见的就是分类的任务。这次我们也是用最简单的途径来看看神经网络是怎么进行事物的分类。2.建立数据集 &
转载
2023-12-07 03:28:42
49阅读
单个神经元神经网络是多个“神经元”（感知机）的带权级联，神经网络算法可以提供非线性的复杂模型，它有两个参数：权值矩阵{Wl}和偏置向量{bl}，不同于感知机的单一向量形式，{Wl}是复数个矩阵，{bl}是复数个向量，其中的元素分别属于单个层，而每个层的组成单元，就是神经元。神经元神经网络是由多个“神经元”（感知机）组成的，每个神经元图示如下：这其实就是一个单层感知机，其输入是由和+1组成的向量，其
转载
2023-10-24 07:32:01
365阅读
一、 时域信号1. 实信号DSP中常见的信号都是实数表示，比如典型的 ；有傅里叶级数的概念，任何时域的信号都可以有正余弦三角函数的组合来表示，既可以表示为各个频率分量的线性累加。2. 实信号的复向量表示 : 为正交信号；也被称作复指数函数；也可看作是沿相反方向变化的两个向量；分别绕复平面远点做顺时针，逆时针转动；注【1】：如果一个复数，有复平面的一个点来表示，现在这个数乘以j或
转载
2023-11-06 17:01:40
103阅读
卷积神经网络中所有的层结构都可以通过 nn这个包调用。1.卷积层nn.Conv2d（）卷积在 pytorch 中有两种方式，一种是torch.nn.Conv2d()，一种是 torch.nn.functional.conv2d()，这两种形式本质都是使用一个卷积操作。 这两种形式的卷积对于输入的要求都是一样的，首先需要输入是一个 torch.autograd.Variable() 的类型，大小是
转载
2023-08-01 17:14:59
102阅读
目录一、神经网络基本骨架搭建nn.modulenn.Module的使用二、神经网络中一些神经结构的使用1. Convolution Layers 卷积层（1） 卷积操作示例（2） 用代码验证上述卷积操作的正确性（使用F.conv2d）（3） 卷积层nn.Conv2d的使用（4） 理解卷积层nn.Conv2d的各个参数（5） torch.nn.conv2d和torch.nn.functional.
转载
2023-08-31 09:35:00
96阅读
文章目录前言一、使用numpy完成神经网络二、使用tensor完成神经网络三、pytorch的自动求导四、补充说明总结 前言 本系列主要是对pytorch基础知识学习的一个记录，尽量保持博客的更新进度和自己的学习进度。本人也处于学习阶段，博客中涉及到的知识可能存在某些问题，希望大家批评指正。另外，本博客中的有些内容基于吴恩达老师深度学习课程，我会尽量说明一下，但不敢保证全面。一、使用numpy
转载
2023-09-26 05:32:13
130阅读
摘要尽管卷积神经网络（CNN）取得了长足的进步，但是大量的冗余参数限制了它在嵌入式设备（尤其是移动设备）上的部署。 最近的压缩工作集中在实值卷积神经上网络（Real CNN），但是据我们所知，目前没有工作聚焦于复数网络的压缩。 与实值网络相比，复数神经网络更易于优化，泛化，并具有更好的学习潜力。 本文扩展了通用使用了从实数域到复数域的深度压缩算法领域，并提出了一种改进的深度压缩算法，
转载
2023-07-21 17:39:50
473阅读
两类数据点。均值为2，方差为1正态分布100个随机点。标记为蓝色。均值为-2，方差为1正太分布100个随机点，标记为黄色。数据集制作如下利用神经网络网络进行分类结果如下 ： 代码如下 pytorch1.6+python3.6import torch
from torch.autograd import Variable
import torch.nn.functional as F
import
转载
2024-04-02 14:59:05
41阅读
