循环神经网络(recurrent neural network)或 RNN (Rumelhart et al., 1986c) 是一类用于处理序列数据的神经网络。就像卷积网络是专门用于处理网格化数据 X(如一个图像)的神经网络循环神经网络是专门用于处理序列 x(1)
前言循环神经网络( Recurrent Neural Networks,RNN),一类用于处理可变长度的序列数据的神经网络,其主要用途是处理和预测序列数据。在全连接神经网络或卷积神经网络中,网络结果都是从输入层到隐含层再到输出层,层与层之间是全连接或部分连接的,但每层之间的结点是无连接的。考虑这样一个问题,如果要预测句子的下一个单词是什么,一般需要用到当前单词以及前面的单词,因为句子中前后单词并不
神经网络的学习的目的是找到使损失函数的值尽可能小的参数。这是寻找最优参数的问题,解决这个问题的过程称为最优化(optimization)。遗憾的是,神经网络的最优化问题非常难。这是因为参数空间非常复杂,无法轻易找到最优解(无法使用那种通过解数学式一下子就求得最小值的方法)。而且,在深度神经网络中,参数的数量非常庞大,导致最优化问题更加复杂。1.SGD:公式如下:更新的权重参数记为W,η表示学习率,
图像分类是视觉领域的核心问题(基础问题)之一:已有一些有标签的多类图片数据集,输入图片给出分类标签。 训练模型最终的目的是得到一个泛化能力强,测试集准确率高的模型,而不是说训练时拟合效果最好,但验证集和测试集变差。 实际应用中我们需要是测试的时候快速高效,训练的时候慢一点无所谓。(CNN恰好满足这一
转载 2018-11-04 01:10:00
173阅读
2评论
欢迎来到assignment3从现在开始, 网上的博客数量就少了很多. 毕竟从现在, 我们开始了更具体网络的学习.这里的组织形式可能会比较怪, 我会将RNN相关的课程内容和代码混在一起, 这样也可以同时作为学习笔记, 也是考虑到RNN之后没有官方讲义之后自己概括性的评说, 感觉比较好组织.因为最近时间减少的关系, 所以更新速度慢了很多. 不过这个坑我一定会填的hhCOCO数据集和数据格式COCO数
课程基础1:Numpy Tutorial 课程基础2:Scipy Matplotlib 1.1 图像分类和Nearest Neighbor分类器 1.2 k-Nearest Neighbor分类器 1.3 KNN实现 2.1 线性分类 2.2 损失函数:多类SVM 2.3 损失函数:Softmax分
转载 2018-11-21 09:10:00
66阅读
2评论
CS231n是斯坦福大学SVL实验室(Stanford Vision and Learning Lab)主导开设为期10周的计算机视觉课程,主讲为李飞飞教授,相关链接如下:课程主页CS231课程主页:http://cs231n.stanford.edu/CS231 GitHub主页(包含课程作业):https://github.com/cs231n(访问页面:cs231n.github...
原创 2021-10-28 15:03:00
251阅读
我的微信公众号:红色石头的机器学习之路神经网络(Neural Network)是一种非线性分类器,有别于之前介绍的线性分类器SVM和Softmax,更复杂一些。最简单的多分类浅层神经网络结构示例如下:神经网络整个过程分为:正向传播和反向传播。正向传播时,隐藏层每个神经元都类似一个线性分类器,经过ReLU激活函数,所有隐藏层的神经元再进入到输出层,经过Softmax选择概率最大的标签作为预测分类值
神经网络深度学习  朋友推荐的一个神经网络学习课程,讲师李菲菲,有中文字幕很赞。 参考 斯坦福CS231n课程 http://study.163.com/course/courseLearn.htm?courseId=1003223001#/learn/video?lessonId=1003659005&courseId=1003223001  
原创 2021-08-17 11:34:31
432阅读
 一、准备工作安装Ipython Notebook[4]设置远程访问服务器上Ipython[2,5],我直接用的[5]中的方法,可以直接在本地浏览器上使用服务器上的notebook。在工作目录下输入命令 jupyter notebook --ip 0.0.0.0会输出一个同token,在浏览器上输入服务器ip和token组成的URL,例如:http://192.168.2.17
转载 8月前
59阅读
1.关于训练和推理结束!
1. 图像分类的任务,就是对于一个给定的图像,在一个固定的分类标签集合中,预测它属于的那个分类标签(或者给出属于一系列不同标签的可能性)。2. 图像是3维数组,数组元素是取值范围从0到255的整数。数组的尺寸是宽度x高度x3,其中这个3代表的是红、绿和蓝3个颜色通道。也就是是图像数组包括了:宽度x高度x3这么多个数字,我们的任务就是把这些上百万的数字变成一个简单的标签,比如“猫”。3. 数...
原创 2021-08-25 14:05:53
206阅读
)历史、概述、重点图像分类1.1 计算视觉历史16世纪最早的相机:暗箱1963年第一篇计算机视觉博士论文:Block world-Larry Roberts, ,视觉世界简化为简单的几何形状,识别...
cs231n之KNN、SVM0.说在前面1.KNN2.SVM3.作者的话0.说在前面最近在学习cs231n,觉得有点困难,今天抽了一晚上时间来写这篇文章,作为总结。下面一...
原创 2021-08-03 09:43:54
139阅读
原创 lightcity 光城 2018-11-21cs231n之KNN、SVM0.说在前面1.KNN2.SVM3.作者的话0.说在前面最近在学习cs231n,觉得有点困难,今天抽了一晚上时间来写这篇文章,作为总结。下面一起来看任务一的题目,由于篇幅长,故分成两部分,下节重点softmax!1.KNNnp.flatnonzero该函数输入一个矩阵,返回扁平化后矩阵中非零元素的位置(index)!!
c++
转载 2021-03-18 14:11:05
165阅读
部分内容参考自链接:https://zhuanlan.zhihu.com/p/209185801. 为什么放弃使用传统的图像分类方法(KNN)而是使用线性分类?k-Nearest Neighbor分类器存在以下不足:分类器必须记住所有训练数据,存储起来以便于未来与测试数据比较。这在存储空间上是低效的,数据集的大小以GB计。 对一个测试图像进行分类需要和所有训练图像作比较,算法计算资源...
原创 2021-08-26 09:20:18
256阅读
20210804 - 20210808。cs231n,assignment 1。 ...
转载 2021-08-08 11:15:00
235阅读
2评论
20210913 - 20211005。cs231n,assignment 2。 ...
转载 2021-10-05 21:10:00
255阅读
2评论
先是附上这门课的思维导图目录 1.Python定义2 Python发展史2.1 Python的发展2.2 Python的版本更新2.3 Python2.0与Python3.0的区别3 Python编译和运行过程3.1 Python解释器3.2 Python解释器种类3.3 Python字节码(.pyc)3.4 Python虚拟机4 Python的应用5 Python的
本课我们主要来研究一个“浏览器中的卷积神经网络” 这只是一个展示项目,但是能够帮助
原创 2022-12-25 11:00:45
75阅读
  • 1
  • 2
  • 3
  • 4
  • 5