作者 | 泳鱼结合论文《Revisiting Deep Learning Models for Tabular Data》的观点，集成树模型通常擅长于表格数据这种异构数据集，是实打实的表格数据王者。集成树模型中的LightGBM是增强版的GBDT，支持了分类变量，在工程层面大大提高了训练效率。DNN深度神经网络擅长于同构的高维数据，从高维稀疏的表示中学习到低维致密的分布式表示，所以在自然
转载
2024-01-12 14:41:38
145阅读
前言本文参考PyTorch官网的教程，分为五个基本模块来介绍PyTorch。为了避免文章过长，这五个模块分别在五篇博文中介绍。Part1：PyTorch简单知识Part2：PyTorch的自动梯度计算Part3：使用PyTorch构建一个神经网络Part4：训练一个神经网络分类器Part5：数据并行化本文是关于Part3的内容。 Part3：使用PyTorch构建一个神经网络神经网络可以
转载
2024-01-13 13:45:20
84阅读
接下来，我们就分别介绍编码器和解码器神经网络的构建。编码器网络我们的编码器网络是采用双向GRU单元构造的一个两层RNN，代码如下：# 构建编码器RNN
class EncoderRNN(nn.Module):
def __init__(self, input_size, hidden_size, n_layers=1):
super(EncoderRNN, self).__
转载
2023-11-22 22:43:50
79阅读
什么是神经网络？人类有1000亿个被称为神经元的细胞，它们之间通过轴突连接。连接到某个神经元的轴突中，如果有足够多数量被触发，则这个神经元就会被触发。我们把这个过程称为“思考”。
转载
2023-08-02 09:02:17
282阅读
神经网络搭建前言向前传播反向传播算法神经网络搭建的过程：代码1.导入包2.定义层3.训练数据4.定义结点5.定义神经层6.定义损失函数7.选择优化器，使损失函数达到最小8.初始化9.迭代10.实验数据 前言 Layer1：输入层 Layer2：隐藏层 Layer3：输出层向前传播 通常，当我们使用神经网络时，我们输入某个向量x，然后网络产生一个输出y，这个输入向量通过每一层隐含层，直到输出层。这
转载
2023-08-16 10:23:15
89阅读
拟合散点图简单介绍 首先我们需要构造一些“假”的数据（即一些零散的点），主要的任务就是在这些假的数据点中拟合出一条曲线，使这条曲线尽可能地“穿过”所有的点。制作数据集 我们在y=sin(x)+b这条曲线附近取一些点，使b具有随机性，因为在生活中大部分数据不可能精确到直接可以满足一条公式，基本所有的都是尽可能地去拟合数据。import torch
import matplotlib.pyplot a
转载
2023-12-05 16:15:42
79阅读
从 pytorch到nlp第一章 pytorch 之构建神经网络 文章目录从 pytorch到nlp前言一、构建神经网络的具体流程二、代码及其解读1.模型构建2.查看模型参数3.损失函数4.反向传播5.更新网络参数总结 前言一、构建神经网络的具体流程1 定义一个拥有可学习参数的神经网络 2 遍历训练数据集 3 处理数据使其流经神经网络 4计算损失 5将网络参数的梯度进行反向传播 6依一定的规则更新
转载
2023-08-08 18:10:46
98阅读
花了不少时间在Excel中开发了一个基于VBA的神经网络工具箱ANN Toolbox，与Matlab中的神经网络工具箱类似，提供了比较灵活的创建小规模神经网络的能力，并且提供了几种常用的训练算法和数据导入/处理模块，使得这个工具箱有了一定的实用性，借助Excel平易近人的特点，ANNtoolbox可以用于演示、教学等场景。 ANN Toolbox的Github链接在这里：关于工具箱的源码解析，在后
转载
2023-11-12 18:56:04
0阅读
目录低阶 API 模型Keras 顺序模型Keras 函数式模型Keras 混合模型 低阶 API 模型首先读取数据集并进行简单切分，这里对字符标签进行了独热编码方便后面计算损失值。import numpy as np
import tensorflow as tf
from sklearn.datasets import load_digits
from sklearn.model_selec
转载
2023-08-08 11:19:19
116阅读
Keras深度学习实战（2）——使用Keras构建神经网络0 前言1. Keras 简介与安装2. Keras 构建神经网络初体验3. 训练香草神经网络3.1 香草神经网络与 MNIST 数据集介绍3.2 训练神经网络步骤回顾3.3 使用 Keras 构建神经网络模型3.4 关键步骤总结小结系列链接 0 前言在《神经网络基础》中，我们学习了如何从零开始构建了一个神经网络，更具体的说，我们编写了执
转载
2023-10-23 13:40:46
80阅读
这种方法很适用于单步预测的模型，像RL之类的需要根据网络的输出结果再次组织数据训练的网络，用起来不是很方便。本文是根据 这个 知乎文章整理而成，为了以后查找方便。数据处理请阅读 这篇博文。简介我们在使用神经网络解决一个问题时主要分为为三个阶段：训练，评估，预测。这三个阶段网络模型，数据操作，记录操作相同。不同的是 使用的数据集和模型的操作。因此我们把相同的部分提取出来，方便代
转载
2023-12-09 22:20:05
44阅读
#coding:utf-8
"""
随机产生32组生产出的零件的体积和重量，训练3000轮，每500轮输出一次损失函数
神经网络框架：输入层2个神经元，隐藏层3个神经元，输出层1个神经元
"""
"""0导入模块：导入模块，生成模拟数据集"""
import tensorflow as tf
import numpy as np
BATCH_SIZE = 8 #一次给神经网络喂入8组数据，不能太
转载
2023-08-08 11:19:27
115阅读
最近接触了图神经网络，感觉这个玩意可以提供多粒度视角。在对研究对象进行抽象后，既可以对节点进行分类，也可以对边进行分类，还可以对图整体进行分类。 图神经网络这种结构就提供一种多粒度描述特定对象的能力。想想还是蛮不错的啊。所以就搞搞图神经网络。 目前来看图神经网络的理论学习路线有：图论基本知识。这个很熟，不用学。线性代数，尤其是傅里叶变换的矩阵形式。这个只要回去看看书就行，我看了图卷积网络的理论基础
转载
2023-10-23 14:17:40
202阅读
图神经网络旨在利用神经网络有效地处理图数据 图结构化数据在各个领域中都是通用的，例如分子，{社交，引文，道路}网络等示例，只是可以用图表示的大量数据中的少数。随着机器学习的进步，我们看到了在可用数据上应用智能算法的潜力。图神经网络是机器学习的一个分支，它涉及以最有效的方式为图数据构建神经网络。尽管在具有卷积网络在计算机视觉领域中取得了巨大进步，但是图神经网络(GNN)面临着更具挑战性的
转载
2023-09-26 18:59:16
119阅读
仅用numpy实现神经网络，并用于实际的回归预测任务
原创
2021-06-17 16:45:40
212阅读
仅用numpy实现神经网络，并用于实际的回归预测任务
原创
2021-07-31 16:57:53
156阅读
文章目录1.背景介绍1）图简介2）图神经网络简介2.GNN 的通用设计流程1) 查找图结构2）明确图类型和规模3）设计损失函数4）构造模型3.计算模块的实例化3.1 传播模块——卷积算子（convolution operator）3.1.1 谱方法3.1.2 空间方法3.1.3 基于注意力的空间方法3.1.4 空间方法的一般框架3.2 传播模块——循环算子（recurrent operator）
转载
2023-08-28 13:32:51
73阅读
numpy 搭建一个浅层神经网络来对数据进行简单分类一个浅层神经网络一般只有两层，输入层并不算在内 数据集： sklearn.datasets 里面的 make_moons 构造数据 numpy 实现目录： 文章目录1、构建数据2、构建网络3、预测4、开始训练 1、构建数据这里我们用的是 sklearn.datases 里面的 make_moons 来构造一个月牙形的数据1.1、引入相应的库imp
转载
2024-02-19 18:27:16
145阅读
1、消息传递原理为节点生成节点表征（Node Representation）是图计算任务成功的关键，我们要利用神经网络来学习节点表征。消息传递范式是一种聚合邻接节点信息来更新中心节点信息的范式，它将卷积算子推广到了不规则数据领域，实现了图与神经网络的连接。消息传递范式因为简单、强大的特性，于是被人们广泛地使用。遵循消息传递范式的图神经网络被称为消息传递图神经网络。 具体来说就是： 1）首先从邻居获
转载
2023-10-22 21:48:04
108阅读
自从人工神经网络（ANN）在函数逼近、模式识别、建模仿真等领域的应用取得显著成效以来，就一直遭受到一项指控：ANN is one kind of black box models！当然，这项“罪名”成立与否并无定论，但终究影响不好。如今，大部分应用者都认为ANN是黑箱模型。在ANN的捍卫者中，也有一部分人致力于“洗白”ANN，试图告诉大家：ANN是white box m
转载
2023-10-19 20:12:54
69阅读
