单层神经网络有线性回归和softmax回归。线性回归输出是一个连续值,因此适用于回归问题。而与回归问题不同,分类问题中模型的最终输出是一个离散值。我们所说的图像分类、垃圾邮件识别、疾病诊断等输出为离散值的问题都属于分类问题的范畴。softmax回归则适用于分类问题。下面我们依次介绍线性回归和softmax回归。一、线性回归1、模型训练设房屋面积为,房龄为,售出的价格为。我们需要建立基于输入和来计算
转载
2023-11-02 20:45:19
116阅读
心得:学习神经网络知识,面对很多的数学公式和推导,很难况且已经忘记了大部分关于微积分和概率论的东西,学神经网络这些都是基础,所以在之后碰到对应的知识点会详细的记录下来。加油~ 文章目录:一、logistic回归是什么二、神经网络相关概念1. 输入层,输出层,隐藏层2. 权重和偏值2. 激活函数(Activation Function)3.损失函数3. 导数4. 梯度下降法6. 向量化7 .向前传播
转载
2024-03-30 21:13:42
113阅读
神经网络可以用在分类问题和回归问题上,不过需要根据情况改变输出层的激活函数。一般而言,回归问题用恒等函数,分类问题用 softmax 函数。机器学习的问题大致可以分为分类问题和回归问题。分类问题是数据属于哪一个类别的问题。比如,区分图像中的人是男性还是女性的问题就是分类问题。而回归问题是根据某个输入预测一个(连续的)数值的问题。比如,根据一个人的图像预测这个人的体重的问题就是回归问题(类似“57.
转载
2023-10-20 19:13:28
45阅读
人工神经网络(Artificial Neural Networks,ANN)提供了一种普遍而有用的方法从例子中学习值为实数、离散值或向量的函数。人工神经网络由一系列简单的单元相互密集连接构成,当中每个单元有一定数量的实值输入(可能是其它单元的输出),并产生单一的实数值输出(可能成为其它单元的输入)。适合神经网络学习的问题:实例是非常多“属性-值”对表示的目标函数的输出可能是离散值、实数值或者由若干
转载
2024-01-12 06:13:27
58阅读
参考资源 上诉视频里面教我们一步一步如何制作属于自己的数据集。我自己通过实现了制作自己的数据改出了结合出了这篇文章。我会把改动的地方标识出来。import tensorflow as tf
from PIL import Image
import numpy as np
import os
from tensorflow.keras import backend as K #转换为张量
# 以下都
转载
2023-12-18 15:51:53
38阅读
几个基本概念为了接下来的讲解方便,这里先告诉大家几个基本概念。1回归问题与分类问题回归(regression)与分类(classification)是机器学习中的两大类问题。上面我们举的计算圆形面积的例子就属于回归问题,即我们的目的是对于一个输入x,预测其输出值y,且这个y值是根据x连续变化的值。分类问题则是事先给定若干个类别,对于一个输入x,判断其属于哪个类别,即输出一般是离散的,比如本课程将会
转载
2023-11-06 16:52:26
53阅读
最近在刷吴恩达的coursea的机器学习视频,学完基于梯度下降的逻辑回归和基于梯度下降的神经网络后,就在反思这两者之间的区别,为什么必须使用神经网络?逻辑回归不能替代神经网络么?他们的区别是什么呢? 答案:逻辑回归不能替代神经网络。 机器学习的本质其实是训练出一组参数,尽可能让基于这组参数的模型能正确识别出所有的样本。然而,逻辑回归所有参数的更新是基于相同的
转载
2023-08-13 22:50:17
145阅读
目录一. 线性回归1.1 回归(regression):1.2 线性回归的基本元素:1.3 线性模型:1.4 损失函数 二. 基础优化算法 2.1 梯度下降2.2 小批量随机梯度下降 三. 矢量化加速四. 正态分布与平方损失五. 总结六. 神经网络专栏一. 线性回归1.1 回归(regressio
转载
2023-08-10 15:44:05
281阅读
神经网络-逻辑回归目录 神经网络-逻辑回归目录逻辑回归概念tips梯度下降绘制计算分析图方法逻辑回归中的梯度下降简单的算法描述矢量化tipsnumpy广播机制引起的隐形 bug 以及解决回顾深度学习训练步走 逻辑回归概念定义: LossFun: costFun: tips这里不用普通 L1Loss 的原因:使用 L1loss 会使得 GD无法找到全局最优解(因为不是凸函数)costFun
转载
2023-10-08 19:17:24
98阅读
目录神经网络数据、符号准备:logistic回归:损失函数和代价函数:梯度下降法:向量化:神经网络我们学习深度学习的目的就是用于去训练神经网络,而神经网络是什么呢?我们先来看下面一个基础的生物上的神经元的图片。通常来说,神经元就是处理信息的基础单位,神经元一端传来电信号,经历中间的处理后会输出新的信号,所以总的来说神经元一个信号处理中心。而神经网络就是多个神经元组成的网络,它可以接收不仅一个输入,
转载
2023-11-01 20:50:56
96阅读
分为四部分:1.准备数据集 2. 设计模型 3. 构建损失函数和优化器,4. 训练 5. 测试验证from pathlib import Path
import requests
#加载数据集
DATA_PATH = Path("data")
PATH = DATA_PATH / "mnist"
PATH.mkdir(pa
转载
2023-08-06 00:34:13
163阅读
文章目录前言一、Fashion-MNIST是什么?二、代码实现1.引入库2.读取数据集3.数据预处理4.搭建神经网络5.编译和训练神经网络模型6.神经网络预测总结 前言 每个想要学习深度学习、图像识别的同学,想要用到神经网络,入门的实例必定是MNIST手写数字集,这是所有人都绕不开的,我也是,我之前写了三篇关于MNIST的博文。en…但这个数据集毕竟只有手写数字,有时候并不是能够满足我们开发
转载
2023-11-27 09:28:54
71阅读
神经网络模型的效果以及优化目标是通过损失函数(loss function)来定义的。分类问题和回归问题有很多经典的损失函数。 分类问题和回归问题是监督学习的两大种类。 分类问题希望解决的是将不同的样本分到事先定义好的类别中。再这种问题下,需要将样本二分类(多分类)。手写字体识别就是一个十分类的问题。 再判断二分类问题的时候,可以定义一个有单个输出节点的神经网络,当这个节点输出越接近1(或者设
转载
2023-10-27 15:57:17
120阅读
超大图上的节点表征学习引用自Datawhale https://github.com/datawhalechina/team-learning-nlp/tree/master/GNN前面文章:图神经网络打卡task1Datawhale 图神经网络task2Datawhale 图神经网络task3Datawhale 图神经网络task4什么是超大图?节点以及边达到千万或上亿大数据规模,表征这些节点对
转载
2023-11-12 22:43:48
289阅读
《Python神经网络编程》 实践笔记,按照原书中 Chapter2 尝试复现了一个简单的识别手写数字的神经网络神经网络代码框架class neuralNetwork:
def __init__():
pass
def train():
pass
def query():
pass我们先填写简单的初始化部分: 我
转载
2023-08-31 08:41:00
128阅读
本文主要介绍近年来图神经网络方向使用最多的三个数据集的详细内容:Cora、Citeseer、PubMed。ItemsCoraCiteseerPubMed#Nodes2708332719717#Edges5429473244338#Features14333703500#Classes763一. Cora数据集Cora数据集由机器学习论文组成,论文被分为以下七类:Case BasedGenetic
转载
2023-09-15 18:39:55
981阅读
1.构建前馈神经网络训练MNIST环境:pycharm + win10 + conda3 + python3.6首先创建一个神经网络类NeuralNetwork:import numpy as np
#定义一个神经网络类
class NeuralNetwork:
#初始化参数
def __init__(self,layers,alpha=0.1):
self.Wei
转载
2023-10-10 06:03:37
160阅读
文章目录Cora数据集的准备与分析TSNE可视化节点表征分布图节点分类模型实现与对比(MLP vs. GCN vs. GAT)MLP分类模型GCN分类模型GAT分类模型结果比较与分析参考 Cora数据集的准备与分析Cora是一个机器学习论文数据集,其中共有7个类别(num_classes:基于案例、遗传算法、 神经网络、概率方法、强化学习 、规则学习、理论。整个数据集中共有2708篇论文(num
转载
2023-09-05 23:23:30
1041阅读
文章目录四、神经网络的学习1.损失函数2.损失函数的意义3.数值微分4.梯度法5.学习算法的实现 四、神经网络的学习这一章通过两层神经网络实现对mnist手写数据集的识别,本文是源于《深度学习入门》的学习笔记 若理解困难,参考上一章笔记:深度学习入门-从朴素感知机到神经网络 本文部分数学公式函数用代码实现了,另一些代码在此:数学公式函数1.损失函数表示神经网络性能的“恶劣程度”的指标。1.1均方
转载
2023-10-26 12:19:36
136阅读
这里我们会用 Python 实现三个简单的卷积神经网络模型:LeNet 、AlexNet 、VGGNet,首先我们需要了解三大基础数据集:MNIST 数据集、Cifar 数据集和 ImageNet 数据集三大基础数据集MNIST 数据集 MNIST数据集是用作手写体识别的数据集。MNIST 数据集包含 60000 张训练图片,10000 张测试图片。其中每一张图片都是 0
转载
2024-01-29 08:44:05
109阅读