Annoy是高维空间求近似最近邻的一个开源库。Annoy构建一棵二叉树，查询时间为O(logn)。Annoy通过随机挑选两个点，并使用垂直于这个点的等距离超平面将集合划分为两部分。如图所示，图中灰色线是连接两个点，超平面是加粗的黑线。按照这个方法在每个子集上迭代进行划分。依此类推，直到每个集合最多剩余k个点，下图是一个k = 10 的情况。相应的完整二叉树结构：随机投影森林。一个思想依据是：在原空
转载
2024-07-02 22:59:36
38阅读
本文中笔者将在实践中深度探讨人工智能神经网络（ANN）技术。通常为了解决以一个问题，ANN 会拥有不同的层次，关于需要多少分层来解决一个特定问题则是另一个话题，将不在本篇中赘述。作为一个程序员，应该比任何人都要更了解代码，无论看到什么样的代码都应该可以快速做出反应。因此，程序员可以直接从代码中来学习 ANN。然而，在开始了解 ANN 算法之前，了解算法背后的数学可以加快理解的速度。所以，在看代码之
转载
2024-05-17 13:17:42
259阅读
1、Dynamic Routing Between CapsulesCapsNet与CNN的区别CNN善于捕捉特征是否存在，因为它的卷积结构总是尝试理解局部的特征与信息。当前面低级特征组合成后面复杂与抽象的特征时，可能需要通过池化层来减少输出张量或特征图的尺寸，而这种操作可能会丢失位置信息。比如在下面这两张图中，CNN对两张图的识别效果都是人脸，显然是不对的。 例如对下图CNN的识别过程
ANN是一个非线性大规模并行处理系统1.1人工神经元的一般模型神经元的具有的三个基本要素1、一组连接，连接的强度由个连接上的权值表示，若为正，则表示是激活，为负，表示，抑制 2、一个求和单元：用于求各个输入信号的加权和 3、一个非线性激活函数：起到非线性映射的作用，并将神经元输出幅度限制在一定的范围内，一般限制在（0,1）或者（-1,1）之间 此外还有一个阈值 求和部分 总和减去阈值 减
转载
2024-03-18 21:56:58
164阅读
简述：⼈⼯神经⽹络（artificial neural network，ANN），简称神经⽹络（neural network，NN）。是⼀种模仿⽣物神经⽹络(动物的中枢神经系统，特别是⼤脑)的结构和功能的数学模型或计算模型，⽤于对函数进⾏估计或近似。激活函数非线性变换，将累加信号变换后输出，一般使用压缩函数。来限制振幅。作用：增强网络表达能力，非线性输出，没有激活函数就相当于矩阵相乘。一个神经网络
转载
2024-07-17 21:56:33
110阅读
U-Net和FCN的区别在计算机视觉领域，全卷积网络（FCN）是比较有名的图像分割网络，医学图像处理方向，U-Net可以说是一个更加炙手可热的网络，基本上所有的分割问题，我们都会拿U-Net先看一下基本的结果，然后进行“魔改”。U-Net和FCN非常的相似，U-Net比FCN稍晚提出来，但都发表在2015年，和FCN相比，U-Net的第一个特点是完全对称，也就是左边和右边是很类似的，而FCN的d
转载
2024-06-03 09:52:37
220阅读
首先我们先将具体的数字图片转换为向量矩阵形式，存储在txt文件下，具体格式如下，其是数字0的矩阵向量形式： 整个项目文件夹下分一部分为训练集数据集另一部分为测试集数据集，文件格式如下： 那么直接开始上KNN算法的代码实现算法了：（附有详细讲解） # -*- coding: UTF-8 -*-
import numpy as np
人工神经网络（Artificial Neural Network，简称ANN）的目的是利用计算机模拟我们人类大脑处理问题的过程，这里来分析一下其逻辑，不作专业解释了。 ANN是一个统计模型，由观测数据集（S）和概率（P）组成。 对于一张图片，我们将其所有的像素作为我们的数据集，利
久违的学习笔记，在周围大佬们的陪（压）伴（力）下，不得不给自己学习的压力啊！ 周五就要做报告了，得赶快写点总结。前面几课笔记周五补上，给自己挖个坑，记得填。废话不说，拿出朕的小本本开写。 CNN（Convolutional Neural Network）卷积神经网络 听名字就觉得很吓人，卷积什么的！1. What’s CNN?1.1 CNN定义定义1. 一种专门用来处理类似网格结构的数据的神
转载
2024-07-18 15:05:19
52阅读
[ 导读 ] 我们从鸟类那里得到启发，学会了飞翔，从牛蒡那里得到启发，发明了魔术贴，还有很多其他的发明都是被自然所启发。这么说来看看大脑的组成，并期望因此而得到启发来构建智能机器就显得很合乎逻辑了。这也是人工神经网络 ( ANN ) 思想的根本来源。不过，虽然飞机的发明受鸟类的启发，但是它并不用扇动翅膀来飞翔。同样，人工神经网络和它的生物版本也有很大差异。甚至有些研究者认为应该放弃对生物
深度学习或人工神经网络(ANN)能够模拟生物神经元的观点，是个很大的误解。ANN充其量能模仿一个1957年的单个神经元模型的卡通版本。任何声称深度学习的人都是出于营销目的，或者从来没有读过生物文献。深度学习中的神经元本质上是数学函数，它对内部权重的输入执行相似函数。匹配越接近，执行动作的可能性就越大(即不向零发送信号)。这个模型也有例外，但它包含感知器、卷积网络和RNN。Numenta
循环神经网络(RNN, Recurrent Neural Networks)介绍 循环神经网络(Recurrent Neural Networks，RNNs)已经在众多自然语言处理(Natural Language Processing, NLP)中取得了巨大成功以及广泛应用。但是，目前网上与RNNs有关的学习资料很少，因此该系列便是介绍RNNs的原理以及如何实现。主要分成以下几个部分对RN
这一篇是一个专题总结，可能会写很久，希望不会咕掉一.组合数学：①.基本公式：1.排列数公式$A_{n}^{m}=\frac{n!}{(n-m)!}$，表示从$n$个元素中选出$m$个元素并进行全排列的方案数特别的，当$m=n$时，有$A_{n}^{n}=n!$（规定$0!=1$） 2.组合数公式$C_{n}^{m}=\frac{n!}{m!(n-m)!}$，表示从$n$个元素中选出$m$
一、LeNet-5这个是n多年前就有的一个CNN的经典结构，主要是用于手写字体的识别，也是刚入门需要学习熟悉的一个网络。输入：32*32的手写字体图片，这些手写字体包含0~9数字，也就是相当于10个类别的图片输出：分类结果，0~9之间的一个数因此我们可以知道，这是一个多分类问题，总共有十个类，因此神经网络的最后输出层必然是SoftMax问题，然后神经元的个数是10个。LeNet-5结构：输入层：3
转载
2023-10-05 14:26:12
266阅读
1. DenseNet & ResNet在计算机视觉领域，卷积神经网络（CNN）已经成为最主流的方法，比如最近的GoogLenet，VGG-19，Incepetion等模型。CNN史上的一个里程碑事件是ResNet模型的出现，ResNet可以训练出更深的CNN模型，从而实现更高的准确度。ResNet模型的核心是通过建立前面层与后面层之间的“短路连接”（shortcuts，skip conn
转载
2024-02-19 11:29:27
96阅读
R-FCN:Object Detection via Region-based Fully Convolutional Networks1、简介 比较流行的关于目标检测的深度网络可以通过ROI( Region-of-Interest) pooling layer分成两个子网络: 1. a shared,“ fully convolution” subnetwork inde
转载
2024-09-24 19:27:16
81阅读
本次学习笔记主要记录学习深度学习时的各种记录，包括吴恩达老师视频学习、花书。作者能力有限，如有错误等，望联系修改，非常感谢！ 神经网络和深度学习（三）- 浅层神经网络一、神经网络概述(Neural Network networks)二、神经网络的表示(Neural Network Representation)三、计算一个神经网络的输出(Computing a Neural Network's o
转载
2023-07-24 20:50:51
130阅读
1 .建立索引过程随机选择两个点，以这两个节点为初始中心节点，执行聚类数为2的kmeans过程，最终产生收敛后两个聚类中心点。这两个聚类中心点之间连一条线段（灰色短线），建立一条垂直于这条灰线，并且通过灰线中心点的线（黑色粗线）。这条黑色粗线把数据空间分成两部分。在多维空间的话，这条黑色粗线可以看成等距垂直超平面.
在划分的子空间内进行不停的递归迭
CNN与RNN的介绍本文主要总结我对李宏毅老师讲的CNN和RNN的理解，通过对比总结各自的优势，同时加深自己对这方面知识的理解。1、CNN介绍CNN是一种利用卷积计算的神经网络。它可以通过卷积计算将原像素很大的图片保留主要特征变成很小的像素图片。本文介绍方式以李宏毅老师ppt内容为主，具体下面介绍。1.1 Why CNN for Image ①为什么引入CNN？？图片示意：给定一个图片放入全连接神
转载
2024-04-15 15:03:06
351阅读
Tiny_cnn是一个简洁的纯C++11实现的深度学习框架。在Windows系统只需高版本的VS(VS2013或者更高本)+opencv即可，本人用的是VS2013+opencv2.4.11。关于tiny-cnn的具体细节，很多博客写得很详细。本人只介绍一种基于tiny-cnn快速简单的使用方法。Tiny_cnn下载地址：https://github.com/nyanp/tiny-cnn该方法很简
