ElasticSearch 2 (16) - 深入搜索系列之近似度匹配摘要标准的全文搜索使用TF/IDF处理文档、文档里的每个字段或一袋子词。match 查询可以告诉我们哪个袋子里面包含我们搜索的术语，但这只是故事的一部分。它并不能告诉我们词语之间的关系。考虑下面句子的区别：Sue ate the alligator.The alligator ate sue.Sue never goes any
转载
2024-01-01 20:26:32
99阅读
本文探讨了Text Embedding和ElasticSearch的向量类型如何用于支持文本相似性搜索。本文将首先概述Text embedding技术，介绍该技术的一些应用场景，最后使用ElasticSearch完成一个简单的基于Text embedding的文本相似性搜索demo。从一开始Elasticsearch就作为全文搜索引擎提供快速而强大的全文搜索功能。在Elasticsearch 7.
转载
2024-01-08 15:02:37
50阅读
目录ES核心相似度匹配逻辑：分词器选择：IK 分词器分词器使用演示：ik分词器最佳实践：使用minimum_should_match正向匹配度-使用个数正向匹配度-使用百分比逆向匹配组合匹配（Combination)ES核心相似度匹配逻辑：ES的核心相似度匹配逻辑，或者匹配目的，可以不是很严谨的用以下两句话承载。局部常见：该单词在文档中多次出现全局罕见：该单词在语料库中出现的次数并不多。详见：El
转载
2024-01-15 09:55:36
367阅读
文章目录前言相关性打分默认搜索类型：query then fetchdfs query then fetch结论参考文献 前言同样的一个查询语句，执行多次查询结果竟然不一致相关性打分ES使用的打分算法包含了称之为“TF-IDF”的统计信息来帮助计算处于那个索引中的文档的相关性。TFIDF基本思想就是“一个项在文档中出现的次数越多，那么这个文档更加相关；但相关性会被这个项在整个文档库中的次数削弱”
转载
2024-03-17 16:39:38
160阅读
作者：Radovan Ondas在本文章，我们将了解如何通过几个步骤在 Elastic 中实施相似图像搜索。 开始设置应用程序环境，然后导入 NLP 模型，最后完成为你的图像集生成嵌入。Elastic 图像相似性搜索概览 >>
Elasticsearch：如何在 Elastic 中实现图片相似度搜索 如何设置环境第一步是为你的应用程序设置环境。 一般要求包括：GitPython
转载
2024-05-02 21:47:34
84阅读
一 KNN Search介绍 Elasticsearch 使用HNSW 算法来支持高效的 kNN 搜索。与大多数 kNN算法一样，HNSW是一种近似方法，它牺牲了结果准确性以提高搜索速度。 ES8.x
转载
2024-03-14 07:06:46
388阅读
作者：Radovan Ondas，Bernhard Suhm想象一下能够用屏幕快照模仿名人的样子。 用户可以使用该图片快速找到符合该款式的在线销售服装。 但是，这不是今天的搜索体验。客户很难找到他们需要的东西，如果找不到，他们就会离开。 他们中的一些人不记得他们要找的东西的名称（关键字），但对它的外观或实际图像有一个想法。 借助 Elastic 中的一项集成功能向量搜索，组织可以实施相似图像搜索。
转载
2024-03-26 14:29:54
22阅读
排序ES默认是通过相关度来对结果进行排序的，最相关的文档在最前面。在本章里，我们阐述我们所说的相关性以及它是如何计算的，但是我们先讲解sort参数及其如何使用。为了根据相关性进行排序，我们需要把相关性表示为一个值。在Elasticsearch里，在返回的查询结果中，我们用一个浮点数值_score来表示相关性得分，因此默认的排序是按_score降序。有时候，不能得到一个有意义的相关性得分。比如，下面
转载
2024-05-23 18:04:51
207阅读
代码相似度计算将基于AST和Smith-Waterman算法AST (抽象语法树)AST即Abstract Syntax Trees，是源代码的抽象语法结构的树状表示，树上的每个节点都表示源代码中的一种结构。一般的，在源代码的翻译和编译过程中，语法分析器创建出分析树，然后从分析树生成AST。生成AST使用Python中的ast库来生成源代码的AST最简单的例子:import ast
root_no
转载
2023-07-29 23:14:51
455阅读
需求说明事实上在工作中总是会遇到各种异想天开不知所措的需求，就比如当prd文档简单的写下了要求你按相关度+热度综合排序这样的需求。嗯，这看着其实不过分。事实上我更希望您能说明清楚排序规则，各种情况各种场景下的排序方式，而不是简短的这么一句话。不过大部分情况你永远都只能获得这一句话，那么，还是想想如何从这一句话中推断出需要的信息来进行需求分析吧。需求分析1.首先是相关度那基本上要求搜索词和文本的相关
转载
2024-03-04 21:51:36
212阅读
最近工作中要求实现相似文本查询的功能，我于是决定用SimHash实现。常规思路通常分为以下四步：1、实现SimHash算法。2、保存文章时，同时保存SimHash为倒排索引。3、入库时或使用定时任务，在倒排索引中找到碰撞的SimHash，保存为结果表。4、需要查询一篇文章的相似文章时，根据文章ID，查询结果表，找到相似文章。 不过这里有个小问题，如果一篇多次入库的文章的SimHash发生
转载
2024-04-21 17:02:21
263阅读
目录一、相似检索方法总体分析二、基于距离度量的方法（一）余弦相似度（二）欧氏距离（三）曼哈顿距离（四）汉明距离三、基于集合的方法（一）Jaccard相似度（二）杰卡德距离四、基于内容的方法五、协同过滤方法（一）基于用户的协同过滤基本原理应用分析案例数据准备工作原理步骤案例分析（二）基于物品的协同过滤基本原理应用分析案例数据准备工作原理步骤案例分析六、基于图的方法（一）基本原理（二）案例应用案例：社
转载
2024-08-16 19:25:50
166阅读
一、背景与目标我们业务维护了两个代码仓库，两端的代码很多都是一个平台先开发好，几乎直接copy到另一个仓库。于是产生了一个技术需求，实现这两个仓库代码复用。在技术预研阶段，需要统计早先copy的代码文件有多少，提前预估双端代码的大概可复用文件比例。早先我是利用Beyond Compare 手动遍历文件，依据“肉眼”去对比的，花了大概一天的时间，而且估计的数据比较粗略。考虑到这个工作以后还会碰到，而
转载
2024-01-25 20:23:54
263阅读
文章目录简介安装初试核心概念文档（Document）语料库（Corpus）向量（Vector）模型（Model）遇到的坑参考文献 简介gensim 是 NLP领域的神器，用于主题建模、文档索引和大型语料库的相似性检索Gensim = Generate Similar，生成相似事物。安装pip install gensim初试提供一份简短的原始语料库，并用"Human computer inter
转载
2024-01-14 23:35:23
89阅读
1、相关性 ElasticSearch检索结果是按照相关性倒序排列的，相关性是什么，相关性又是如何计算的？每个文档都有相关性评分，用一个正浮点数字段 _score 来表示 。 _score 的评分越高，相关性越高。 查询语句会为每个文档生成一个 _score 字段。评分的计算方式取决于查询类型 不同的查
转载
2024-05-04 17:23:22
40阅读
今天我想借个机会写一下短文本匹配中的一个大杀器---ESIM，这个方法真是横扫了好多比赛，上述比赛的冠军们基本都用了这个方法(集成必选模型)。同时，像以前一样，我会附上实现代码，这次我用 PyTorch 来实现这个模型。开始步入正题。ESIM，简称 “Enhanced LSTM for Natural Language Inference“。顾名思义，一种专为自然语言推断而生的加强版 LSTM。至
转载
2024-08-09 17:50:14
20阅读
相关度评分背后的理论Lucene（或 Elasticsearch）使用 布尔模型（Boolean model） 查找匹配文档，并用一个名为 实用评分函数（practical scoring function） 的公式来计算相关度。这个公式借鉴了 词频/逆向文档频率（term frequency/inverse document frequency） 和 向量空间模型（vector space mo
转载
2024-05-16 17:17:46
387阅读
Lucene 相似度打分1. 文本相似度的主要影响因子 a. 词频 tf (term frequency) : 指某个词在文档中出现的次数, 其值越大, 就可以认为这篇文章描述的内容与该词越相近, 相似度得分就越高. 在 Lucene 中的计算公式为: b. 逆文本频率 df (inverse document frequency) : 这是一个逆向的指标, 表示在整个文档集合
转载
2024-04-24 16:52:04
122阅读
六、莱文斯坦编辑距离前边的几种距离计算方法都是针对相同长度的词项，莱文斯坦编辑距离可以计算两个长度不同的单词之间的距离；莱文斯坦编辑距离是通过添加、删除、或者将一个字符替换为另外一个字符所需的最小编辑次数；我们假设两个单词u、v的长度分别为i、j，则其可以分以下几种情况进行计算当有一个单词的长度为0的时候，则编辑距离为不为零的单词的长度；从编辑距离的定义上来看，在单词的变化过程中，每个字符的变化都
转载
2024-04-23 20:59:17
122阅读
摘要：代码抄袭现象非常普遍,在C语言课程作业中表现尤其严重,代码抄袭检测给教师带来了繁重的工作负担,降低了教学质量.如何利用计算机自动地,准确地检测代码抄袭是亟待解决的问题. 分析大量C语言课程作业源代码内部逻辑结构,提出基于结构树的代码结构比较算法,并以此为数据源对算法进行了实验验证,发现结构相似的代码之间抄袭概率较大. 研究C语言初学者常用的代码抄袭方式,发现最常用的有四种:添加,删除,修改注
转载
2024-01-20 06:44:42
57阅读
