目录一.简介二.矩阵运算1.矩阵基本操作函数2.矩阵加减法3.矩阵乘法三.神经网络实现1.定义神经网络类2.激活函数ReLU3.激活函数Softmax4.交叉熵损失函数5.神经网络基本操作6.正向传播计算7.反向传播学习四.测试1.统计最近n次的平均识别误差2.定义监督学习的标签3.编写主函数4.测试结果 一.简介最近在学习神经网络相关的知识,为了巩固自己对相关知识的理解,尝试使用C语言来编写一            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-19 15:31:25
                            
                                590阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            本博客以c代码为例,展开神经网络的组成参数设定结构体->参数指针->参数函数定义数据函数激活函数阶层实现函数模块多维矩阵模块连续层结构总结  希望本篇文章对你有所帮助 ~ (●’◡’●) ~ 本次部分代码数据以1维呈现(如有需要对应修改即可)参数设定根据c语言特点去设置参数结构体->参数由于c语言本身可选择的数据类型有限,在为了满足可扩展相同结构的数据以及方便后期修改参数,所以            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-21 20:52:57
                            
                                91阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            使用C++实现的简单ANN(人工神经网络)github地址 使用C++实现的最简单的人工神经网络,包含梯度下降的反向传播算法(BP)。内有部分注释,适合初学学习。至于为什么不用python?还是觉得从最底层(矩阵运算)写比较能加深印象和对算法的理解。(绝对不是因为我不会写python)警告,此代码仅为初学学习之用,请勿用作任何工程项目!一、跑起来方式一使用vscode+cmake插件或者Clion            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-09 06:59:39
                            
                                335阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            前言本文综合整理常用的神经网络,包括生物神经网络、人工神经网络、卷积神经网络、循环神经网络、生成对抗网络;参考了许多高校的课程、论文、博客和视频等。文章的结构是先进行概念了解,然后结合图片、结构图、一步一步详细讲解;大家要不看看? ( •̀ ω •́ )y一、人工神经网络简介:人工神经网络(Artificial Neural Network, ANN),由人工神经元构成的网络,模拟人类的            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-05 16:42:54
                            
                                107阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一、写在前面的话本章主要讲讲神经网络的数学基础,并将神经网络中浮夸的概念用合理的顺序整理一下。应该具备的数学基础说多不多:基本上熟悉导数、线代、概率,那么大部分内容就可以看懂了,然而再进行深入学习的话又需要了解一些微分流形的东西,这个东西也是函数导数所衍生的概念,想想也不是很复杂。但好事者给起了很多复杂的名字,比如PCA比如Adam,这无形中也增加了学习成本。以至于很多人学习过程的最大感受就是:我            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-27 07:38:35
                            
                                80阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            去年在学习Stanford的ML课程的时候整理过一篇BP神经网络原理的解析,链接地址,不过没有对它的code实现作太多的研究,只是用MATLAB的工具箱做了实验。Jeremy Lin具体的原理性资料可以参考:[1] BP神经网络解析          地址[2] Tom M.Mitchell 机器学习教程  地址BP网络算法流程            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-10 19:49:31
                            
                                201阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            人工神经网络学习笔记 目录人工神经网络学习笔记人工神经网络概念人工神经网络模型神经网络学习学习本质学习方法学习规则BP神经网络概念构造算法基本思想误差函数输出层权系数调整隐藏层神经元节点权系数调整 人工神经网络概念人工神经网络是多输入单输出的非线性元件。人工神经网络模型人工神经网络模型包括前馈型神经网络(每一层神经元只接受前一层神经元输入)和反馈型神经网络(每个神经元接受其他神经元输出作为输入,自            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-02-25 07:39:51
                            
                                31阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            全连接神经网络用C语言实现一、分析输入输出二、分析神经网络层数三、分析神经元数量四、分析参数数量五、分析传递过程连接方式六、代码框架七、完整代码实现: 一、分析输入输出1、手写体输入为28x28的黑白图片,所以输入为784个x 2、输出为识别0-9的数字的概率,所以有10个输出 3、输入只能是-1~1的小数,主要是防止计算溢出二、分析神经网络层数如果只是一层,输入784,输出10,中间能记录的神            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-04 09:23:51
                            
                                428阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            文章总览-手把手教你用C语言搭建一个全连接神经网络框架 文章目录符号对照表数学符号对照表神经网络参数符号对照表算法理论基础激活函数Sigmoidtanhreluleakyrelusoftmax损失函数Mean Square ErrorCross Entropy Loss初始化方法全零初始化随机初始化Xavier初始化凯明初始化 符号对照表数学符号对照表符号含义标量向量矩阵张量向量或者矩阵的转置按元            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-12-11 23:16:46
                            
                                74阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            BP(Back Propagation)即反向传播,指的是一种按照误差反向传播来训练神经网络的方法。而 BP 神经网络即为一种按照误差反向传播的方法训练的神经网络,是一种应用十分广泛的神经网络。BP 神经网络主要可以解决以下两种问题:分类问题:用给定的输入向量和标签训练网络,实现网络对输入向量的合理分类。函数逼近问题:用给定的输入向量和输出向量训练网络,实现对函数的逼近。本文主要介绍 BP 神经网            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-07 15:58:08
                            
                                7阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            从RNN到CNN只能捕获上下文左侧的短语,RNN无法利用未来的特征预测当前单词,就算是bi-RNN,也不过是双向重蹈覆辙而已。经常把过多注意力放到最后一个单词上。比如,如果只想得到my birth的向量,RNN就无能为力了,因为它捕捉的是从左到右的“上文”。与此对应,softmax也是加在最后一个单词上的CNN的解决思路说来也很简单粗暴,那就计算相邻的n-gram,不管它到底是不是真正的短语,眉毛            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-26 10:59:09
                            
                                51阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Table of Contents一、Net类的设计与神经网络初始化神经网络的要素Net类的设计成员变量与成员函数神经网络初始化权值初始化初始化测试二、前向传播与反向传播前言前向过程反向传播过程注意三、神经网络的训练和测试前言完善后的Net类训练测试四、神经网络的预测和输入输出解析神经网络的预测输出的组织方式和解析读取样本和标签五、模型的保存和加载及实时画出输出曲线模型的保存和加载实时画出输出曲线            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-15 10:57:27
                            
                                113阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            这个发现激发了人们对神经系统的进一步思考。神经-中枢-大脑的工作过程,或许是一个不断迭代,不断抽象的过程。两个关键字:迭代跟抽象;从原始信号到低级抽象逐渐向高级抽象迭代。高层的特征是底层特征的组合,从底层到高层的特征表示约来越抽象,越来越能表现语义跟意图。小结:任何事物都可以划分为粒度合适的浅层特征(粒度特征),这个浅层特征一般就是我们的第二层输入;小结:结构向特征具有明显的层级概念,从较小粒度划            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-28 21:55:15
                            
                                58阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            本文主要对人工神经网络基础进行了描写叙述,主要包含人工神经网络的概念、发展、特点、结构、模型。	本文是个科普文,来自网络资料的整理。一、             人工神经网络的概念	人工神经网络(Artificial Neural Network,ANN)简称神经网络            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-04 10:57:42
                            
                                111阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            人工神经网络        人工神经网络(artificial neural network, ANN)是对神经网络的一种数学描述形式。我们经常用"神经网络"来称呼"人工神经网络"。它是由简单神经元经过相互连接形成网状结构,通过调节各连接的权重值改变连接的强度,进而实现感知判断。他的训练目的是希望能够学习到一个模型,实            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-21 23:16:50
                            
                                184阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            人工神经网络(ANN)是一种从信息处理角度对人脑神经元网络进行抽象从而建立的某种简单模型,按不同的连接方式组成不同的网络。其在语音识别、计算机视觉和文本处理等方面取得的突破性成果。在下文,我们将深入了解一种名为多层感知器的人工神经网络。神经元在神经网络中,神经元是计算的基本单元,也被称为节点或单元。它接受其他节点或外部的输入,在计算后产生输出。每两个节点间的连接都代表一个对于通过该连接信号的加权值            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-31 23:51:37
                            
                                142阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一、人工神经网络什么是神经元? 图中可以看出一个完整的神经元主要由三部分组成:输入层->隐藏层->输出层, 输入层与隐藏层之间多种关系通过W(权重)来区别 隐藏层对于输入值和权重进行分析,最终输出判断结果实际生活中神经网络是由多个神经元组成,视图如下:激活函数(而在A-NN中的具体操作是这样的,我们做输入(X)和它们对应的权重(W)的乘积之和,并将激活函数f(x)应用于其获取该层的输出            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-08-26 18:29:27
                            
                                196阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            这年头机器学习非常的火,神经网络算是机器学习算法中的比较重要的一种。这段时间我也花了些功夫,学了点皮毛,顺便做点学习笔记。介绍人工神经网络的基本理论的教科书很多。我正在看的是蒋宗礼教授写的《人工神经网络导论》,之所以选这本书,主要是这本比较薄,太厚的书实在是啃不动。这本书写的也比较浅显,用来入门正合适。看书的同时也在网上找了找人工神经网络的库代码。感觉 FANN 这个库还不错,就顺道学了学这个库的            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-05-22 22:39:42
                            
                                200阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            以下代码实现了只包含一个隐层的BP前馈神经网络。使用方法如下:1.编写配置文件配置文件为TXT文档,内容如下:Layers: 3  Layer1: 2  Layer2: 2  Layer3: 2  Group: 1000  Groupt: 1000  Learningrate: 0.9  Accuracy: 0.95  iterations_outer: 100000  iter_show: 50            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-08-25 16:16:54
                            
                                196阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            在Build 2013大会上,来自微软研究院的James McCaffrey在一场有趣的演讲中介绍了神经网络。尽管“使用Visual Studio开发神经网络”这个题目表明演讲是针对Visual Studio(VS)的,但实际上它也适用于任何希望更多了解神经网络(NN)的开发者。McCaffrey拥有数学博士学位,而在这场引人入胜的演讲中,他所面对的是拥有计算机科学背景的开发者们。\  McCaf            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-10 22:27:38
                            
                                93阅读