本文主要用于积累自己学习过程中搭建神经网络的常见代码，如有不准确之处，欢迎各路大神指出！谢谢！训练网络optimizer = optim.SGD(net.parameters(), lr=0.01, momentum=0.9)
criterion = nn.NLLLoss()optim.SGD （）用于优化神经网络，使得
转载
2023-08-10 23:43:41
196阅读
一、什么是GRU？GRU（Gate Recurrent Unit）是循环神经网络（RNN）的一种，可以解决RNN中不能长期记忆和反向传播中的梯度等问题，与LSTM的作用类似，不过比LSTM简单，容易进行训练。二、GRU详解GRU模型中有两个门，重置门和更新门，具体作用后面展开说。先来看一张GRU的图，看不懂没关系，后面慢慢展开说。符号说明：:当前时刻输入信息 :上一时刻的隐藏状态。隐藏状
转载
2023-08-04 22:39:24
512阅读
前沿：先学习本篇文章之前，建议大家先学习我编写的上一篇“使用Python从头实现一个神经网络”，再来学习学习本篇使用神经网络进行房价预测。介绍：本次使用神经网络进行房价的预测，利用数据样本学习，得到相关因素预测房价。数据介绍：数据来源：使用爬虫工具爬取广州某小区的售房信息。爬取到的数据如下：选取变量共有380条数据，七项指标，选取其中五项指标，分别为总价，面积、房间数量、客厅数量、建造年份。选取房
转载
2023-09-14 21:11:27
502阅读
此图为使用神经网络预测猫狗案例。 文章目录什么是神经网络？训练神经网络前向传播损失函数反向传播完整应用提问结束语 什么是神经网络？大多数神经网络的介绍性文本在描述它们时都会提出大脑类比。在不深入研究大脑类比的情况下，我发现将神经网络简单地描述为将给定输入映射到所需输出的数学函数会更容易。神经网络由以下组件组成输入层x任意数量的隐藏层一个输出层，ŷ每层W 和 b之间的一组权重和偏差每个隐藏层的激活
转载
2023-08-02 14:05:22
110阅读
一、前馈神经网络基本模型前馈神经网络是最基本的神经网络，其中的一些基本概念在神经网络的研究中被广泛的使用。一个前馈神经网络可以看做是一个函数 fθ:x→y 其中输入
x∈Rn，输出
y∈Rm，函数的行为通过参数
θ∈Rp 来决定。 构造一个神经网络，需要的各个要素如下：1、神经元模型神经元模型是构建神经网络的基本模块。神经元模型的要素如下：每个神经元的输入为一个向量 x∈Rn，输
转载
2023-08-08 13:30:42
266阅读
一、前述CNN和RNN几乎占据着深度学习的半壁江山，所以本文将着重讲解CNN+RNN的各种组合方式，以及CNN和RNN的对比。二、CNN与RNN对比1.CNN卷积神经网络与RNN递归神经网络直观图： 2.相同点： 2.1. 传统神经网络的扩展； 2.2. 前向计算产生结果，反向计算模型更新； 2.3. 每层神经网络横向可以多个神经元共存，纵向可以有多层神经网络连接。3.不同点： 3.1
转载
2023-09-25 09:45:14
0阅读
此代码将传统神经网络用粒子群算法改进，通过粒子群算法的值作为神经网络权重初值，精度更高，改良BP神经网络反向传播的梯度下降法，让误差更好的逼近全局最优值；本代码多或单输入，对应多或单输出均可；%% 清空环境
clc
clear
%PSO-BP神经网络预测，
%"多或单输入与多或单输出均可"
%读取数据
%先将测试集与训练集、输入与输出区分好,
%"数据自己拆分好训练集与测试集，xlsx对应命名如
转载
2023-09-18 16:03:53
517阅读
近期， JoinQuant 金融终端上线了python3.6版本，并且为小伙伴们带来了诸多重要更新：期权数据；支持 Tick 回测功能；研究示例文件增加了 TensorFlow、PyTorch 的安装教程；支持 pip 一键安装 TensorFlow、PyTorch、Keras 等深度学习库；组合优化更新：支持风险因子暴露限制、换手率限制、流动性限制、流动性限制、行业偏离度限制、追踪误差限制、换手
转载
2023-12-25 23:17:56
54阅读
文章目录卷积神经网络中几种常用的模型1、LeNet2、AlexNet3、VGG4、InceptionNet6、ResNet7、DenseNet8、训练代码9 、总结 卷积神经网络中几种常用的模型1、LeNetLenet 是一系列网络的合称，包括 Lenet1 - Lenet5，由 Yann LeCun 等人在 1990 年中提出来的，被认为是最早的卷积神经网络（CNN），为后续CNN的发展奠定了
转载
2023-11-24 07:57:55
131阅读
1. 容量控制和预处理AlexNet通过暂退法控制全连接层的模型复杂度，而LeNet只使用了权重衰减。 为了进一步扩充数据，AlexNet在训练时增加了大量的图像增强数据，如翻转、裁切和变色。 这使得模型更健壮，更大的样本量有效地减少了过拟合。import torch
from torch import nn
from d2l import torch as d2l
net = nn.Seque
转载
2023-11-14 07:25:21
82阅读
1.项目背景经济广告是指以营利为目的的广告，通常是商业广告，它是为推销商品或提供服务，以付费方式通过广告媒体向消费者或用户传播商品或服务信息的手段。商品广告就是这样的经济广告。为促进产品的销售，厂商经常会通过多个渠道投放广告。本项目将根据某公司在电视、广播和报纸上的广告投放数据预测广告收益，作为公司制定广告策略的重要参考依据。本项目通过通过人工神经网络回归模型来进行广告投放数据的预测，并通过网格搜
转载
2023-10-23 11:51:43
111阅读
(1) 简单理解LSTM神经网络首先推荐看一遍火贪三刀的博客，解释浅显易懂。简单总结下：1）递归神经网络Recurrent Neural Networks（RNNs）：当前时刻的输出，不仅与当前时刻的输入有关，与上一时刻的输出也有关，所有的递归神经网络都是由重复神经网络模块构成的一条链，该重复模块通常是一个单tanh层，通过当前输入及上一时刻的输出来得到当前输出。2）Long Short Term
转载
2023-08-09 20:21:13
211阅读
Pytorch和Tensorflow作为现在最流行的神经网络的框架，是现在绝大多数神经网络爱好者用来搭建神经网络模型的必要框架。Pytorch背后是Facebook人工智能研究院(FAIR)，Tensorflow背后是谷歌人工智能团队谷歌大脑(Google Brain)。循环神经网络是和卷积神经网络一样重要和值得了解和学习的神经网络，一般用于处理数据点的序列或时间序列，如自然语言处理，而卷积神经网
转载
2023-11-10 19:40:52
261阅读
加粗样式MATLAB 简单神经网络案例学习目标:从学习第一个最简单的神经网络案例开启神经网络学习之路。 本神经网络为感知器网络，常用于点的分类。clear all;
close all; %第一步、第二部为清空环境变量
P=[0 0 1 1;0 1 0 1];%输入向量
T=[0 1 1 1]; %目标向量
net=newp(minmax(P),1,'hardlim
转载
2023-10-30 23:58:18
109阅读
神经网络算法是由多个神经元组成的算法网络。每一个神经元的作用是这样的：
输入是多个值，输出是一个值。
其会先将多个输入值线性组合，然后把线性组合得到的值进行非线性的映射（要求映射函数可微，因为在反向传播时需要其可导），如常见的非线性映射函数为Sigmoid函数：神经网络是多层的，每一层有多个神经元，上一层神经元的输出作为下一层每个神经元的一个输入。反向传播算法：输出层的神经元的输出和实际值有一定误
转载
2018-12-23 00:30:00
249阅读
什么是极限学习机？极限学习机（ELM, Extreme Learning Machines）是一种前馈神经网络，最早由新加坡南洋理工大学黄广斌教授于2006年提出。该算法具有良好的泛化性能以及极快的学习能力极限学习机和标准神经网络的区别ELM 不需要基于梯度的反向传播来调整权重，而是通过 Moore-Penrose generalized inverse来设置权值。标准的单隐藏层神经网络结构如下：
转载
2024-09-13 15:34:21
90阅读
SPSS Modeler简介IBM SPSS Modeler前身是英国ISL公司开发的一款数据挖掘工具产品，1998年被SPSS公司收购，并重新整合开发。 由于SPSS Modeler拥有丰富的数据挖掘算法，支持与数据库之间的数据和模型交换；同时，具有可视化操作界面，简单易用，分析结果直观易懂，图形功能强大等特点。已从诸如Statsoft Statistics、SAS Enterprise Min
转载
2023-11-19 13:19:43
235阅读
前向传播就是搭建网络，设计网络结构（一般新建一个文件forward.py）#前向传播过程，完成网络结构的设计，搭建完整的网络结构
def forward(x,regularizer): #x为输入，regularizer为正则化权重；返回y为预测或分类结果
w =
b =
y =
return y
#对w的设定
def get_weight(shape,reg
转载
2023-12-08 00:36:38
64阅读
在前面，我们分别使用逻辑回归和 softmax 回归实现了对鸢尾花数据集的分类，逻辑回归能够实现线性二分类的任务，他其实就是最简单的神经网络——感知机。 而softmax回归则实现的是多分类任务，它也可以看做是输出层有多个神经元的单层神经网络。 下面，使用神经网络的思想来实现对鸢尾花数据集的分类，这个程序的实现过程和 softmax 回归几乎是完全一样的。在使用神经网络来解决分类问题时，首先，要设
转载
2023-09-02 00:00:30
199阅读
0.写在翻译之前 本文翻译自博客：i am trask ， 属于本人一边学习神经网络一边翻译的文章。所以不止在翻译层面可能会有错误，在对神经网络的原理层面也难免会有错误。假如您发现哪里有问题，希望能谅解并留言可以让我修改，谢谢。1.概要屁话少说，放码过来：X = np.array([ [0,0,1],[0,1,1],[1,0,1],[
转载
2023-10-12 10:18:56
88阅读
