随着人工智能的兴起，机器学习和深度学习在研究以及工业上的应用。现阶段，大多数工业在做故障预测的时候更倾向于使用结合大数据的机器学习算法来对其进行预测以及后期的运维工作。但是，不管是其机理模型和数据模型在一定程度上都会有其缺陷，是不是能将机理模型和数据模型进行融合，来消除彼此的缺点呢！暂且先称之为混合模型。  
转载
2024-01-04 10:13:23
185阅读
nn.Linear的理解
nn.Linear是pytorch中线性变换的一个库
在实际应用中，nn.Linear往往用来初始化矩阵，供神经网络使用。view（）方法
我们经常会用到x.view()方法来进行数据维度的变化
传入数字-1，自动对维度进行变换
我们使用-1数字自动计算出了其余的一个维度nn.MSELoss()
MSE: Mean Squared Error（均方误差）torch.opt
转载
2023-12-03 14:02:13
21阅读
完整代码在个人主页简介链接pytorch路径下可找到1 单车预测器1.01.1 人工神经元对于sigmoid函数来说，w控制函数曲线的方向，b控制曲线水平方向位移，w'控制曲线在y方向的幅度1.2 多个人工神经元模型如下数学上可证，有限神经元绘制的曲线可以逼近任意有限区间内的曲线（闭区间连续函数有界）1.3 模型与代码通过训练可得到逼近真实曲线的神经网络参数通过梯度下降法寻找局部最优（如何寻找全局
作者 小左 换言之，就是将序列本身作为输入，下一时刻作为输出，模型表达的是序列的联合概率分布。有兴趣的可以将其改写为判别模型。本文将使用卷积神经网络（CNN）用于时间序列预测。区别于图像处理（二维卷积如图所示）CNN用于序列预测时使用的是一维卷积，也就是我们熟悉的离散序列的卷积和，具体公式可以表示为：已知序列a=｛a0，a1,a2,…,am｝，L(a)=m+1b=｛b0,
转载
2023-12-15 12:01:00
46阅读
目录一、理论基础二、核心程序三、测试结果一、理论基础MPC的优点模型预测控制善于处理多输入多输出系统 对于MIMO系统，PID需要为每个子系统单独设计PID控制器，由于存在耦合对于较大的系统难以实现1.MPC控制器可以较好控制MIMO系统2.模型预测控制可以处理约束，安全性约束，上下阈值3.模型预测控制是有向前考虑未来时间步的有限时域优化（一定的预测能力）最优控制要求在整个时间优化实际
RNN是对时间序列数据的一种预测算法，被大量用于金融市场估计、视频序列处理、行为预测等课题中。说起来复杂，实际上和普通的一维神经网络没什么区别，还是权重偏执那一套。那么怎么将上个时间中的知识传下去呢？RNN中有个状态变量(cell state)，上一时间的状态变量和输入数据一起，共同组成本次时间的输入。 常用的RNN结构有LSTM（Long Short-Term Memory, 长短期记忆网络）
转载
2023-12-19 21:30:38
283阅读
以下的过程中都是在train模式下进行的，并且没有进行损失计算和梯度更新，
但这个过程中running_mean和running_var会进行更新，所以也验证了
running_mean和running_var只受模型的模式（train模型或eval模型)的影响，
与是否进行反向传播(loss.backward)和梯度更新(optimiter.step)没有关系。
实验一：
1. 标准库函数的参数
转载
2024-01-29 00:22:03
77阅读
RNN学习记录——预测代码实现RNN预测连续字符RNN预测股票 RNN预测连续字符abcd->e bcde->fimport numpy as np
import tensorflow as tf
from tensorflow.keras.layers import Dense, SimpleRNN, Embedding
import matplotlib.pyplot as pl
转载
2024-03-01 21:09:08
82阅读
1、RNN的基本设定在语言模型任务中，给定特定的单词序列（句子片段）,任务目标是预测该片段的下一个单词(或者符号)。传统的n-gram模型可以应用于该任务，但是它存在着许多难以解决的问题：假设预测序列为 Tom open his ___①强假设问题：n-gram模型的构建依赖于过强的假设，即假设待预测的第n各单词只依赖于它之前的n-1个单词，即：②稀疏问题：由于n-gram模型的预测靠的是第对条件
转载
2024-08-09 12:39:08
117阅读
1. 写在前面今天分享的这篇文章是2017年发表在Nips上的一篇文章，来自于清华的团队。是论文阅读系列的第二篇文章，这篇文章是在ConvLSTM的基础上进行改进的一个版本，所以如果想学习这篇文章，需要先搞懂ConvLSTM的工作原理，可以参考这篇博客：时空序列预测之Convolutional LSTM Network，这是时空序列学习很重要的一种结构，但是存在的问题就是像本篇论文提到的：记忆状态
转载
2024-04-02 11:01:22
175阅读
最近在做一个RNN的实验，之前其实学习过RNN的一些知识，但由于长时间不用，加上很多API的更新，有些东西也记得不太清了，真的很想吐槽TF这种静态图，看个shape都费劲，现在也不想升级到2.0或者使用PyTorch，只能将就着用吧。 这个正弦预测应该算是入门基本实验了，网上很多资料都是一些小修小改，但是却很多都是错的，而错的人却还一直转载，我也是服了。建议还是去看看官方书籍或者自己调试一下吧，下
转载
2024-05-10 18:57:10
64阅读
RNN学习：利用LSTM，GRU解决航空公司评论数据预测问题 文章目录RNN学习：利用LSTM，GRU解决航空公司评论数据预测问题1.RNN的介绍1.1 LSTM的简单介绍1.2 GRU的简单介绍2.数据集的介绍3.读取数据并作预处理4.模型的搭建结语 1.RNN的介绍 RNN，即循环神经网络，即一般的神经网络同层节点与节点之间并无连接，比如CNN隐藏单元之间并没有连接，那么这相对于一些序列问题上
转载
2024-06-18 09:15:24
86阅读
本文，探讨下LSTM的一些高级应用，比如双向LSTM。前面的探讨过程中， 我们使用到的RNN或者LSTM都是单向的，即按照时间顺序排列的一维序列；而在实际应用中，双向的RNN由于考虑到更充足的上下文，往往能起到更好的效果：Bi-RNN又叫双向RNN，是采用了两个方向的RNN网络。 RNN网络擅长的是对于连续数据的处理，既然是连续的数据规律，我们不仅可以学习它的正向规律，还可以学习它的反向规律。这样
转载
2023-12-10 10:41:51
86阅读
本专栏将主要介绍基于GAN的时序缺失数据填补。提起时序数据，就离不开一个神经网络——循环神经网络（Recurrent Neural Network, RNN）。RNN是一类用于处理序列数据的神经网络。RNN对具有序列特性的数据非常有效，它能挖掘数据中的时序信息。因为在介绍时序缺失数据填补，就离不开RNN的身影。本文将介绍循环神经网络RNN，并再次基础上完成基于pytorch的简单RNN代码实现，帮
转载
2024-01-22 21:48:54
235阅读
序列模型文本预处理序列模型的核心其实就是去预测带时间序列的任务场景神经网络可以解决大部分问题；因为其能够学习到很多线性的和非线性的知识时间序列任务场景：一、语音识别； 二、生成一段音乐； 三、情感分析；四、**轨迹预测（**网格与网格之间是有联系的；只有将它们联系起来才能成为一条轨迹）时间序列：特点；前后关联强，“前因后果”（后面产生的结果，依赖前面产生的结果）标准神经网络建模的弊端弊端～ 针对位
转载
2024-03-08 07:19:34
105阅读
[Submitted on 9 May 2021] 摘要提出预测COVID-19大流行过程模型的研究论文，要么使用手工的统计学模型，要么使用大型神经网络模型。尽管大型神经网络比简单的统计模型更强大，但在小数据集上训练它们尤其困难。本文不仅提出了一种比其他神经网络具有更大灵活性的模型，而且提出了一种适用于较小数据集的模型。为了提高小数据的性能，我们测试了六种正则化方法。结果表明
转载
2024-06-18 21:33:30
70阅读
1.47.Pytorch实现基本循环神经网络RNN (3)Recurrent Neural networks(Rumelhart, 1986)主要用来处理序列型数据，具有对以往数据的记忆功能。下图所示，输入为input和一个状态Hidden0, 输出为output和hidden1. 一般地，对输入到RNN进行处理的第t个数据，也就是第t时刻，输出的隐藏状态可以表示为： 在RNN对序列数据进行处理时
转载
2023-10-18 17:22:41
92阅读
代码解读说明一、项目结构二、训练部分2.1 模型导入（models.py解析）2.1.1 __init__函数2.1.2 _prepare_base_model函数2.1.3 _prepare_base_model函数附1 多gpu与断点恢复设置2.2 数据导入（dataset.py解析）2.2.1 __ init __函数2.2.2 _parse_list函数2.2.3 _sample_ind
转载
2023-11-30 18:18:37
76阅读
目录前言run_nerf.pyconfig_parser()train()create_nerf()render()batchify_rays()render_rays()raw2outputs()render_path()run_nerf_helpers.pyclass NeRF()get_rays_np()ndc_rays()load_llff.py_load_data()_minify()
转载
2023-11-20 10:20:38
259阅读
文章目录RNN标准RNN代码 RNN标准RNN 在PyTorch中的调用也非常简单，使用 nn.RNN（）即可调用，下面依次介绍其中的参数。 RNN() 里面的参数有input_size 表示输入 xt 的特征维度hidden_size 表示输出的特征维度num_layers 表示网络的层数 nonlinearity 表示选用的非线性激活函数，默认是 ‘tanh’ bias 表示是否使用偏置，默
转载
2023-08-20 19:37:08
131阅读
