ANN原来如此简单人工神经网络目前仍然是一个火热的话题,许多人都对它充满了兴趣。然而,对于想了解ANN具体是怎么回事的同学来说,往往缺乏一个足够简单可视化的方法去了解神经网络的内部构造。网络上的各种文章除了数学公式以外,剩下的多是利用Tensorflow等现成的python库实现的样例,虽然实现起来简单,但是底层函数全部封装起来,十分难以理解。因此,神经网络往往在大家的心目中呈现出高深莫测的样子。
转载 2023-11-20 15:47:56
512阅读
花了不少时间在Excel中开发了一个基于VBA的神经网络工具箱ANN Toolbox,与Matlab中的神经网络工具箱类似,提供了比较灵活的创建小规模神经网络的能力,并且提供了几种常用的训练算法和数据导入/处理模块,使得这个工具箱有了一定的实用性,借助Excel平易近人的特点,ANNtoolbox可以用于演示、教学等场景。 ANN Toolbox的Github链接在这里:关于工具箱的源码解析,在后
神经网络基础神经网络可以当做是能够拟合任意函数的黑盒子,只要训练数据足够,给定特定的x,就能得到希望的y,结构图如下: 将神经网络模型训练好之后,在输入层给定一个x,通过网络之后就能够在输出层得到特定的yRNNRNN(Recurrent Neural Network)是一类用于处理序列数据的神经网络。首先我们要明确什么是序列数据,摘取百度百科词条:时间序列数据是指在不同时间点上收集到的数据,这类数
《深度学习的数学》神经网络的python实现 《深度学习的数学》4-4节使用了excel实现了一个小的0-1识别器。自己写了一个python版的实现。 需要指出的是: 1 大部分涉及到的矩阵都是行代表样本(64个),列代表神经元;权重矩阵的话列代表本层神经元,行代表上层神经元。这样权重矩阵可能会根excel表中的正好反着。后面算偏导数的时候通过矩阵乘法直接算出来最后的结果,不用向excel里面一样
所使用的的数据连接:https://www.ituring.com.cn/book/download/d16bf588-375b-4176-b319-ec3c3a2d99a1原书网址读入EXCEL文件的DATA工作簿中的学习数据将读入的数据分解成为 12*64 维数组,每一行代表一个待识别的数字(0或者 1) 将正解转换为tuple形式并保存在value列表中。其中(0,1)代表1, (1,0)代
Author:吾爱北方的母老虎TensorFlow的运行方式分为四步加载数据及定义超参数构建网络训练模型评估模型和进行预测下面以一个一元二次方程为例构建一个神经网络模型y = ax**2+bimport tensorflow as tf import numpy as np import matplotlib.pyplot as plt1.生成及加载数据 # 构建满足一元二次方程的函数 # 为了
转载 2024-03-12 21:17:44
155阅读
基于Excel神经网络工具箱(之一)——DNN神经网络数据结构的算法实现基本数据结构网络数据结构实际算法源码 近三个月一直在研究ANN,为了真正深入地理解ANN的细节,我摈弃了那种直接调用算法库构建ANN的做法,而是选择了一条布满荆棘的小路,从数据结构和算法出发,从0开始一步步构建ANN的结构大厦。因为最熟悉的“开发工具”就是VBA(才疏学浅,其他的语言除了C以外都学艺不精),因此就从三个月前
NeuroSolutions for Excel这个功能可以实现多种神经网络嘛?。神经网络是一种能适应新环境的系统,它针对过去经验(信息)的重覆学习,而具有分析、预测、推理、分类等能力,是当今能够仿效人类大脑去解决复杂问题的系统,比起常规的系统(使用统计方法、模式识别、分类、线性或非线性方法)而言,以神经网络为基础的系统具有更强大的功能和分析问题技巧,可以用来解决信号处理、仿真预测、分析决策等复杂
随着哈里对VB学习的深入,修改了之前的矩阵运算源码。源码效率提升了85%,性能提升了12.5%,复杂度提升了N倍 Σ(っ °Д °;)っ废话不多说,上改版后的VB化Python11行BP网络源码:Private Sub Command1_Click() Dim nv As New numvb Dim txt As String, t As Double, te As Double,
卷积神经网络结构可视化简介本文介绍的工具是针对卷积神经网络示意图可视化的,不包括算图。(示意图一般出现在论文中)常见的卷积神经网络示意图绘制工具不少,常用的主要有NN SVG、ConvNetDraw、PlotNeuralNet等。写这篇重点介绍PlotNeuralNet的教程的原因是国内关于它的教程很少并且大都只是列举了官方demo。个人觉得PlotNeuralNet是很好看、可定制程度高的卷积神
原文链接:点击打开链接摘要: 为了简化卷积神经网络这个概念,我将试着针对在开发深度学习模型过程中所做的运算进行解释。要查阅这方面更多的内容,我建议在线搜索,因为网上的信息很多很多(像这样视频)。本文的这个解释来源于fast.ai仓库。 这个简单的神经网络图片基本上代表了本案例中发生的事情。 简单的神经网络 输入层 这个数字7的图像数据来自MNIST数据集,我们假设你正在使用预训练模型进行分类
基于Excel神经网络工具箱(之二)——ANN前向传播FP及反向传播算法BP的VBA算法实现神经网络数据结构前向传播算法单层感知器的感知结果计算感知器结果的前向传播反向传播算法的实现误差和梯度的计算梯度从后往前的传播随机梯度下降算法和标准梯度下降算法Levenberg Marquardt算法SCG算法相关矩阵操作函数卷积网络的前向和反向传播算法 神经网络数据结构在上一篇文章中,我已经给出了AN
一、单个神经元    神经网络算法,是使用计算机模拟生物神经系统,来模拟人类思维方式的算法。它的基本单位就是人工神经元,通过相互连接形成一张神经网络。    下面三张图都展示了单神经元的结构:表示输入,表示权重参数,b表示偏置项,每个神经元都使用 进行加权求和,得到该结点的一个输出值。     此时我们只做了一个线性操作,因此只能进行线性分类,要想进行非线性分类,就要使用后面的激活函数 ,最终得
本节为ML/DL-复习笔记【九】- 神经网络中各层的计算量与参数量,主要内容包括:标准卷积、空洞卷积、转置卷积、深度可分离卷积以及全连接层的计算量、参数量与输出特征图尺寸计算。1. 标准卷积1.1 计算量  计算量以做乘法和加法的次数为单位,对于输入特征图f=(B,H,W,C),卷积核kernel=(K,S,C,O)【(核尺寸,步长,输入通道数,输出通道数)】。的卷积,执行一次卷积操作,需要次乘法
体系化数学讲解及Excel实现NN神经网络全流程当下神经网络及其应用都非常受欢迎,但是大多数人用的神经网络多是一个库或者选择一段开源代码,对于其中的数学基础以及其中的架构知之甚少,这次我们就通过讲解所有神经网络的数学公式以及通过数学公式在办公软件Excel上实现对数字的识别。讲解数学公式部分我就不用latex来打,因为时间实在不够,全程采用书写,Excel文件会上传到博客资源中提供下载。我们这次的
1、卷积公式是指什么?卷积公式是指两个函数f和g生成第三个函数的一种数学算子。表征函数f与经过翻转和平移的g的重叠部分的累积,如果将参加卷积的一个函数看作区间的指示函数,卷积还可以被看作是滑动平均的推广。卷积公式特点在卷积神经网络中会用卷积函数表示重叠部分,这个重叠部分的面积就是特征,卷积公式是用来求随机变量和的密度函数pdf的计算公式,卷积公式是一种积分变换的数学方法,在许多方面得到了广泛应用。
 作者:气象学渣梯度下降法是目前神经网络训练过程中最为核心的算法之一,配合链式求导可实现误差在神经网络中的反向传播,更新参数,优化模型。由于大部分深度学习框架事先将其进行了封装,使其使用起来变得相当方便。但这也直接导致了我们对其原理与实现过程缺乏直观的感受,本篇借助Excel实现梯度下降法求解二元线性方程,并绘图呈现优化过程,以进一步加深理解。---— 1.基础知识 
ANN原来如此简单人工神经网络目前仍然是一个火热的话题,许多人都对它充满了兴趣。然而,对于想了解ANN具体是怎么回事的同学来说,往往缺乏一个足够简单可视化的方法去了解神经网络的内部构造。网络上的各种文章除了数学公式以外,剩下的多是利用Tensorflow等现成的python库实现的样例,虽然实现起来简单,但是底层函数全部封装起来,十分难以理解。因此,神经网络往往在大家的心目中呈现出高深莫测的样子。
转载 2023-10-20 23:42:44
209阅读
数据集采用的是手写数据集(http://yann.lecun.com/exdb/mnist/):本文构建的CNN网络图如下:    像素点:28*28 = 784,55000张手写数字图片。   # -*- coding: UTF-8 -*- import numpy as np import tensorflow as tf # 下载并载入 MNIS
【Tensorflow】自制数据集–神经网络八股功能扩展0.自制数据集,解决本领域应用1.数据增强,扩充数据集2.断点续训,存取模型3.参数提取,把参数存入文本4.acc/loss可视化,查看训练效果5.应用程序,给图识物0.1 自制数据集,解决本领域应用数据集中的图片均为黑底白字,像素点为28x28的灰度图,训练用的数据集mnist_train_ipg_60000中有60000张图片,测试用的数
  • 1
  • 2
  • 3
  • 4
  • 5