1 残差块假设 F(x) 代表某个只包含有两层的映射函数， x 是输入， F(x)是输出。假设他们具有相同的维度。在训练的过程中我们希望能够通过修改网络中的 w和b去拟合一个理想的 H(x)(从输入到输出的一个理想的映射函数)。也就是我们的目标是修改F(x) 中的 w和b逼近 H(x) 。如果我们改变思路，用F(x) 来逼近 H(x)-x ，那么我们最终得到的输出就变为 F(x)+x（这里的加指的
转载
2024-07-18 14:21:39
33阅读
手写识别简介不再赘述手写识别的相关背景。。。目前用于手写识别的设备有许多种，比如电磁感应手写板、压感式手写板、触摸屏、触摸屏、超声波笔等。ALIENTEK MiniSTM32 开发板自带 2.8 寸电阻型触摸屏，可以用来作为手写识别的输入设备。 手写数字识别系统如下图所示： 虚线部分为训练学习过程，对数据样本进行传统的方向特征提取，提取后特征维数为 512 维。对于单片机来说，如此合成的模板库的存
1.案例背景本文是跟着Tensorflow官方文档的第二篇教程–识别手写数字。MNIST是一个简单的计算机视觉数据集，它是由一系列手写数字图片组成的，比如： 在数据集中，每一张图片会有一个标签label,表示该张图片上的数字是什么。比如以上图片所对应的标签是：5,0,4,1对于初学者，为什么开篇就要介绍这个案例呢？举个栗子， 当我们学习写程序的时候，第一句打印的就是“Hello worl
训练过程import cv2 as cv
import input_data
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()
import sys
from PIL import Image, ImageFilter
import os
import time
os.environ["CUDA_DEVICE_ORDER"] =
转载
2024-06-07 19:22:48
89阅读
1.算法理论概述 介绍ResNet-101的基本原理和数学模型，并解释其在图像识别中的优势。然后，我们将详细介绍如何使用深度学习框架实现ResNet-101，并在图像数据集上进行训练和测试。最后，我们将总结本文的主要内容并提出进一步的研究方向。 1.1、ResNet-101的基本原理  
手写数字数据集是一个用于图像处理的数据集，这些数据描绘了 [0, 9] 的数字，我们可以用KNN 算法来识别这些数字。
上篇文章介绍了KNN 算法的原理，今天来介绍如何使用KNN 算法识别手写数字？1，手写数字数据集手写数字数据集是一个用于图像处理的数据集，这些数据描绘了 [0, 9] 的数字，我们可以用KNN 算法来识别这些数字。MNIST 是完整的手
转载
2024-06-07 21:09:17
89阅读
0. 前言前面我们利用 LR 模型实现了手写数字识别，但是效果并不好（不到 93% 的正确率)。 LR 模型从本质上来说还只是一个线性的分类器，只不过在线性变化之后加入了非线性单调递增 sigmoid 函数进行一一映射。实际上，这里的非线性变换对于我们分类来说是几乎没有什么作用的（在分类上，它等价于线性变换之后挑选出输出值最大的节点作为我们的预测结果），于是我们考虑用更复杂一点的带有一个隐层的 M
初次是根据“支持向量机通俗导论（理解SVM的三层境界）”对SVM有了简单的了解。总的来说其主要的思想可以概括为以下两点（也是别人的总结）1、SVM是对二分类问题在线性可分的情况下提出的，当样本线性不可分时，它通过非线性的映射算法，将在低维空间线性不可分的样本映射到高维的特征空间使其线性可分，从而使得对非线性可分样本进行线性分类。2、SVM是建立在统计学习理论的 VC理论和结构风险最小化原理基础上的
转载
2024-09-18 16:00:04
75阅读
# 手写数字识别 ----Softmax回归模型
# regression
import os
import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data
data = input_data.read_data_sets("/tmp/data/", one_hot=True) # 获取数据
一、模型结构用户输入的图像是一个784维的向量x,我们按照以下步骤搭建网络： 1、把x整形为【28， 28， 1】的灰度图 2、用一次3x3的卷积操作从x中抽象出32个基本特征，图像形状变成【28， 28， 32】，这些特征可以是特殊灰度的点，长度不超过3的短直线、曲线或者其他形状等。32种特征与32个通道一一对应。卷积操作有一个重要作用：从当前输入的图像所拥有的特征出发，抽象出高一级的特征。所以
转载
2024-04-23 10:35:17
137阅读
接续之前的工作，搭建了一个深度网络并利用它进行手写数字识别，可以说取得了较好的效果，当然，网络的参数是根据一本书来的，这本书是一个日本人写的，叫《深度学习入门：基于Python的理论与实现》，作者在书本的第八章给出了一个深度网络的模型，我在pytorch中将这个模型实现了一遍（书作者并没有用任何框架，而是用python和几个库实现的）达到了作
基于Netty 手写 Dubbo 框架1、Dubbo是什么，解决什么样的问题？为了解决模块拆分后，彼此远程调用的问题。RPC -> Remote Procedure Call 远程调用，常见的RPC框架有:阿里的：dubbo。当当的：dubbox。谷歌的：grpc。SpringCloud（一站式开发）等。2、实现方案查看官网dubbo结构图1、首先通过register将服务提供者的url注册
Linux那些事儿linux指令说明：本笔记测试均在vm虚拟机环境下下进行测试练习网络配置启用 ens33 网络配置。默认只有 ens33nmcli c up ens33修改网络配置文件vim /etc/sysconfig/network-scripts/ifcfg-ens33回到vm更改网络适配，使用桥接方式修改文件访问权限查看文件权限ls -l xxx.xxx修改文件权限chmod 744 /
转载
2024-09-11 16:50:20
62阅读
LeNet5网络结构 LeNet-5共有7层，不包含输入，每层都包含可训练参数；每个层有多个Feature Map，每个FeatureMap通过一种卷积滤波器提取输入的一种特征，然后每个FeatureMap有多个神经元。 在论文上的LeNet5的结构如下，由于论文的数据集是32x32的，mnist数据集是28x28的，所有只有INPUT变了，其余地方会严格按照LeNet5的结构编写程序：网络模型c
keras学习记录——resnet为什么用averagepooling？目录keras学习记录——resnet为什么用averagepooling？前言一、池化层二、为什么在resnet后加均值池化而不是最大池化？三、实际测试总结前言本篇主要讨论resnet最后的pooling层为什么用averagepooling,而不是maxpooling?主要用实验来回答这个问题，另外讲解了averagepo
转载
2024-05-26 17:15:50
694阅读
最近在使用InsightFace_Pytorch-master pytorch工程，然后有使用到SE_ResNet50，所以想要分析相应的网络结构（包括网络层名和读取对应层相应参数）了解什么叫做SE模块？SE是Squeeze-and-Excitation(SE)的缩写,该模块的提出主要是考虑到模型通道之间的相互依赖性。SE网络的使用结构如下图所示：上左图是将SE模块嵌入到Inception结构的一
转载
2024-05-27 19:06:01
162阅读
1、前言ResNet是何恺明等人于2015年提出的神经网络结构，该网络凭借其优秀的性能夺得了多项机器视觉领域竞赛的冠军，而后在2016年发表的论文《Deep Residual Learning for Image Recognition》也获得了CVPR2016最佳论文奖。本文整理了笔者对ResNet的理解，详细解释了ResNet34、ResNet50等具体结构，并使用PyTorch实现了一个使用
转载
2023-05-25 13:33:47
1690阅读
1、理论理论部分参考： （我下边这篇写得有点简略，完整公式还是直接点击原博链接吧，我不想复制了，因为会导致格式乱八七糟的。强烈恳求能出一个一键转载的功能！！！）ResNet论文地址： https://arxiv.org/pdf/1512.03385.pdf ResNet主要思想：恒等映射(identity mapping) 。当我们直接对网络进行简单的堆叠到
转载
2024-05-23 09:35:12
122阅读
2018-12-09 19:07:29 深层的深度学习网络存在梯度消失和梯度爆炸等问题导致难以进行训练。 ResNet提出了Skip-Connection来将某一层的输入直接传递到更深的层，通过这种方式可以训练得到更深的神经网络。 为什么这个是有效的呢？ 理论上，更深的模型的训练误差不应当大于浅层模
转载
2018-12-09 19:37:00
226阅读
2评论
ResNet是2015年ImageNet比赛的冠军，将识别错误率降低到了3.6%，这个结果甚至超出了正常人眼识别
原创
2022-03-10 16:44:02
547阅读
