感谢中国人民大学胡鹤老师，课讲得非常好~首先，何谓tensor？即高维向量，例如矩阵是二维，tensor是更广义意义上的n维向量（有type+shape）TensorFlow执行过程为定义图，其中定义子节点，计算时只计算所需节点所依赖的节点，是一种高效且适应大规模的数据计算，方便分布式设计，对于复杂神经网络的计算，可将其拆开到其他核中同时计算。Theano——torch———caffe（尤其是图像
转载
2024-06-30 00:21:46
23阅读
汤加凤高数基础面授23：空间解析几何Part 1向量：1.有方向有大小的量2.向量的坐标：a) 一维（x2-x1）e.（e是单位向量）b) 二维{x2-x1,y2-y1}c) 三维{x2-x1,y2-y1,z2-z1} 向量的模:设向量a={a1,b1,c1}|a|=（a1^2+b1^2+c1^2）^1/2向量a的单位向量=a/|a|={a1/|a|,b1/
转载
2024-07-02 22:04:12
53阅读
前言 在老师的引导下，进行了6天的向量的学习，旨
原创
2022-12-19 14:06:22
299阅读
向量的模向量的大小(或长度）叫做向量的模，记作||。 平面向量=(x,y)，模长是： 空间向量= (x,y,z)，模长是： 对于向量属于n维复向量空间=(x1,x2…,xn)，的模为‖‖=sqrt((x,x*))(x与x共轭的内积再开方) 模是绝对值在二维和三维空间的推广，可以认为就是向量的长度。推广到高维空间中称为范数。模和范数的关系模是空间几何的概念，范数是线性代数里的概念，范数
转载
2024-01-23 15:21:28
64阅读
对图像进行卷积的过程可以看作是特征提取的过程。在图像迁移学习中可以将一组目标问题的图片通过训练好的卷积层得到瓶颈层，这些瓶颈层向量就是多个高维向量。如果在目标问题图像数据集上同一种类的图片在经过卷积层之后得到的瓶颈层向量在空间上比较接近，那么这样迁移学习得到的结果就可能会更好。 TensorBoard提供了PROJECTOR界面来可视化高维向量之间的关系。PROJECTOR要求用户准备一个spri
1. 基本原理与推荐系统不同的是，搜索系统比较重要的用户特征是query，信息检索的过程则是根据query，给用户返回doc集合。传统的检索系统，对文本进行切词， 然后每个词下面会生成一个倒排索引。 query查询时，则是对query进行分词，然后到对应的词进行直接召回即可实现，数据集合的返回。有了数据集之后，如何给doc排序是一个比较关键的问题，毕竟人的精力是比较有限的，在浩渺的知识大海里面，捞
转载
2024-09-14 14:11:54
70阅读
# Java 与 Elasticsearch 向量检索的实现指南
在数据科学与机器学习领域，向量检索是一种强大的工具。Elasticsearch (ES) 为我们提供了强大的搜索能力，而结合 Java 进行向量检索的实施，今天我会一步步教会你如何做到这一点。
## 流程概览
我们将通过以下步骤实现 Java 向量检索与 Elasticsearch 的结合。请参考下面的流程表：
| 步骤
原创
2024-09-08 03:39:47
768阅读
本文将会介绍 Elasticsearch 向量搜索的两种方式。向量搜索提到向量搜索，我想你一定想知道：向量搜索是什么？向量搜索的应用场景有哪些？向量搜索与全文搜索有何不同？ES 的全文搜索简而言之就是将文本进行分词，然后基于词通过 BM25 算法计算相关性得分，从而找到与搜索语句相似的文本，其本质上是一种 term-based（基于词）的搜索。全文搜索的实际使用已经非常广泛，核心技术也非常成熟。但
转载
2023-10-24 08:36:17
723阅读
文章目录浅谈向量检索背景什么是向量什么是向量检索距离度量检索方法ANN的基本思路举个容易理解栗子举个正常的例子具体算法树方法KD-TreeAnnoyHash方法LSH 算法矢量量化方法乘积量化码本的建立码字搜索算法倒排乘积量化临近图方法HNSW 算法朴素想法Delaunay算法NSW 主要思想NSW构图NSW查找 浅谈向量检索背景索引一直被认为是检索引擎最重要的组成部分，之所以数据库能够快速的查
转载
2024-06-05 16:22:52
127阅读
精确向量检索方法通常能够提供更高的准确性，确保返回与查询向量最相似的点。然而，精确检索通常计算开销较大，尤其在面
常见应用场景图片、视频、语音、文本等非结构化数据可以通过人工智能技术（深度学习算法）提取特征向量，然后通过对这些特征向量的计算和检索来实现对非结构化数据的分析与检索。针对向量检索常见的应用场景有[2]：图片识别：以图搜图，通过图片检索图片。具体应用如：车辆检索和商品图片检索等。视频处理：针对视频信息的实时轨迹跟踪。自然语言处理：基于语义的文本检索和推荐，通过文本检索近似文本。声纹匹配，音频检索。
转载
2024-06-27 21:58:33
157阅读
现代信息检索
王老师的现代信息索引讲的很精彩，但是三节联排的课程总让我的注意力没办法太集中。在这里记录一下知识，也但是回顾了。支持布尔查询的索引办法，在给定一个查询的情况下，可能匹配到的结果非常的多，那么对匹配结果（文档）进行评分或者相关权重分析，就显得尤为重要。一、 参数化索引和域索引 通常的文档都有额外的结构（title，author，cont
转载
2024-01-05 22:51:41
142阅读
文章目录一、概述二、解决方案三、Milvus 混合查询四、总结 一、概述通过深度学习的神经网络模型，可以将图片、视频、语音、还有文本等非结构化数据转换为特征向量。除了结构化的向量，这些数据往往也需添加其他属性。如人脸图片，可以添加性别、是否戴眼镜、图片抓取时间等标签；文本可以添加语言类型、语料分类、文本创建时间等标签。以往，人们通常将特征向量存入结构化的标签属性表。但传统数据库无法针对海量、高维特
在推荐和搜索场景下，召回recall是一个关键的步骤，这个步骤通常需要在海量的目标中，召回部分与用户特征相近的item，所以有一个快速，并且准去的算法是非常有必要的，HNSW(Hierarchical Navigable Small World)就是其中一种方法，当然HNSW也不止用于此。对于召回的场景下，每个需要进行召回的item已经用户的特征都是多维的，在多个特征维度的空间中，找到与用户特征最
转载
2024-03-29 11:28:44
279阅读
Annoy算法与Faiss相比，Annoy搜索，速度更快一点，主要目的是建立一个数据结构快速找到任何查询点的最近点。通过牺牲查询准确率来换取查询速度，这个速度比faiss速度还要快。是什么Annoy：最近邻向量搜索，原理/过程算法原理：先构建索引，对于每个二叉树都建立索引，在这里二叉树是随机构造的第一步：先随机找两个点，根据这两个点进行连线，找到垂直平分线，称为超平面。 第二步：在切分后
转载
2024-07-20 20:42:17
201阅读
# UMAP对高维向量降维的应用及Python实现
在数据科学和机器学习领域，我们常常需要处理高维数据。然而，高维数据的处理和可视化往往非常困难。使用降维技术可以帮助我们减少数据维度，从而更清晰地理解数据。本文将介绍UMAP（Uniform Manifold Approximation and Projection）这一降维算法，并提供Python示例，帮助大家理解如何应用UMAP进行高维数据的
何为向量？向量从何而来？为什么说向量是高维思维的体现？为什么说学习向量就是我们认识世界的新角度？ 学习向量对于我们来说是突然的，感觉我一直在经历“降维打击”，经过十几节课的系统学习，向量似乎在我的眼里和高中时候的不太一样了。为什么这么说呢？在以前的认知里，向量就是简单的“有大小、有方向的量”，但经过学习之后，向量不再仅仅拘泥于一个概念那么简单了：在数学中，向量（也称为欧几里得向量、几何向
原创
2022-12-26 19:24:29
429阅读
## Python求高维向量距离
在机器学习和数据分析领域，我们经常需要度量向量之间的相似性或距离。对于低维向量，我们可以使用欧氏距离或曼哈顿距离等常见度量方法。但是当我们的数据变得高维时，传统的距离度量方法可能不再适用。在本文中，我们将介绍一些常用的高维向量距离度量方法，并使用Python代码进行实例演示。
### 欧氏距离
欧氏距离是最常见的向量距离度量方法之一，它是指在 n 维空间中两
原创
2023-09-10 03:17:58
296阅读
# 高维向量与余弦相似度的探究
在机器学习和数据挖掘中，高维向量和相似度计算是非常重要的概念。其中，余弦相似度是衡量两个向量之间相似度的常用方法，尤其在文本分析和推荐系统中应用广泛。本文将介绍如何使用 Python 和 NumPy 来计算高维向量的余弦相似度，并通过示例加以说明。
## 余弦相似度的定义
余弦相似度是通过计算两个向量之间的夹角来度量它们的相似性，公式如下：
\[
\text
高维向量搜索是一种处理和搜索高维数据（如在机器学习和数据科学中常见的数据）的技术。在高维空间中，数据点可以被视为多维向量。这些向量通常代表复杂的对象或实体，如图像、文本或音频样本。在高维向量搜索中，目标是快速有效地在这些高维数据集中找到与给定查询最相关的项。这通常涉及以下几个关键方面：相似性度量：确定数据点之间相似度的方法，通常使用诸如欧几里得距离、余弦相似度等度量。索引和数据结构：为了提高搜索效
原创
2023-12-13 09:59:00
137阅读
