本期文章，我们对embedding词嵌入、similarity相似性和clustering聚类进行相关的介绍，而这些都是大多数 ML机器学习的基础，也是自动编码器必不可少的算法。 在计算机中将真实的相关数据表示为计算机可以识别的数据过程称为embedding词嵌入，这在我们介绍transformer模型时有相关的介绍，因为计算机不能直接识别图片，或者文字，我们需要把这些图片或者文字进行一
转载
2024-01-21 10:22:22
198阅读
从谷歌最早提出知识图谱的概念后，知识图谱的火爆从美国一路烧到了国内，近几年知识图谱技术在国内已经得到了飞速的发展，我们对知识图谱的概念及应用都不再陌生。大家可以看到知识图谱技术的应用出现在越来越多的垂直领域中。从最早大家最为熟悉的在搜索引擎中的应用，逐渐地扩充到金融领域、医药领域等等。今天我们已经在各行各业中，都能够看到知识图谱的身影，更多的技术人员也加入了我们知识图谱工程的大家庭。那么今天我们来
转载
2024-10-23 11:00:41
35阅读
KNN算法（k-近邻算法）算法本质为从训练集中拿出一条数据，与训练集中数据计算，找出与该条数据最相似的几条数据，并根据训练集中已知的分类去预测训练集数据的分类。计算距离的常用算法有欧氏距离、余弦相似度、皮尔逊系数等。该算法不需要事先去训练一个模型，且算法简单，但是面对大数据及特征值维度较高的情况下，运算时间会急剧增加。同时，k值的选择也会影响算法的准确率。from sklearn.datasets
本文目的最近在研究LSH方法，主要发现用pyspark实现的较少，故结合黑马头条推荐系统实践的视频进行了本地实现。本项目完整源码地址：https://github.com/angeliababy/text_LSH项目博客地址:算法本章主要介绍如何使用文章关键词获取文章相似性。主要用到了Word2Vec+Tfidf+LSH算法。 1.使用Word2Vec训练出文章的词向量。 2.Tfidf获取文章关
转载
2023-12-17 06:22:42
109阅读
先看看官方文档：MinHash for Jaccard DistanceMinHash is an LSH family for Jaccard distance where input features are sets of natural numbers. Jaccard distance of two sets is defined by the cardinality of t
原创
2023-06-02 21:58:45
320阅读
合并读入数据集一、append与assignappend方法 （a）利用序列添加行（必须指定name） （b）用DataFrame添加表assign方法 该方法主要用于添加列，列名直接由参数指定： 可以一次添加多个列：二、combine与updatecomine方法comine和update都是用于表的填充函数，可以根据某种规则填充 （a）填充对象 可以看出combine方法是按照表的顺序轮流进行
因为最近在做短文本匹配的项目，所以，简单的记个笔记。短文本匹配，即计算两个短文本的相似度。从广义分，可以分为无监督方式，有监督方式，有监督和无监督结合方式。具体实现，可以使用两个算法库，分别是MatchZoo和text_matching，在github上以上两个算法都开源了。1.无监督方式。通过模型训练语料得到词向量，如word2vec，glove等模型。然后通过对文本进行分词，通过look up
转载
2023-12-15 10:21:16
197阅读
一、第一种对比方式第一种对比方式是：取出两张 bitmap 中的所有像素，然后一一进行对比。匹配的点除以总点数就能得到一个相似度。代码如下：object SimilarityUtils {
fun similarity(bitmap1: Bitmap, bitmap2: Bitmap): Double {
// 获取图片所有的像素
val pixels1 =
转载
2023-09-06 11:34:02
59阅读
""" 基于gensim模块的中文句子相似度计算思路如下： 1.文本预处理：中文分词，去除停用词 2.计算词频 3.创建字典（单词与编号之间的映射） 4.将待比较的文档转换为向量（词袋表示方法） 5.建立语料库 6.初始化模型 7.创建索引 8.相似度计算并返回相似度最大的文本 """代码下载地址：https://github.com/yip522364642/ChineseSimilarity-
转载
2024-01-11 13:38:45
132阅读
相似度算法主要任务是衡量对象之间的相似程度，是信息检索、推荐系统、数据挖掘等的一个基础性计算。现有的关于相似度计算的方法，基本上都是基于向量的，也即计算两个向量之间的距离，距离越近越相似。1、欧式距离欧几里得度量（euclidean metric）（也称欧氏距离）是一个通常采用的距离定义，指在维空间中两个点之间的真实距离，或者向量的自然长度（即该点到原点的距离），在二维和三维空间中的欧氏距离就是两
转载
2023-09-28 13:56:45
257阅读
向量空间模型VSM：VSM的介绍：一个文档可以由文档中的一系列关键词组成，而VSM则是用这些关键词的向量组成一篇文档，其中的每个分量代表词项在文档中的相对重要性。VSM的例子：比如说，一个文档有分词和去停用词之后，有N个关键词（或许去重后就有M个关键词），文档关键词相应的表示为（d1,d2,d3,...,dn），而每个关键词都有一个对应的权重（w1,w1,...,wn）。对于一篇文档来说，或许所含
转载
2024-06-22 18:28:43
240阅读
题目描述小G通过摆放一些城市和道路构成了一个世界地图。趁着小G出去玩的时候，大G把小G的世界地图上的城市全部打乱并放在了原来这些城市所在的位置（并不是一一对应），又修改了一些道路。小G玩完回来后发现自己的东西被打乱了，感到非常生气，但是他又被一个更有趣的问题...
转载
2018-09-21 21:50:00
366阅读
2评论
一、Dice相似系数Dice相似系数(Dice Similarity Coefficient, DSC) ：是一种集合相似度度量指标，通常用来计算两个样本的相似度。公式为：2 * |X ∩ Y| / (|X| + |Y|)，其中 X 和 Y 是两个集合，|X| 表示集合 X 中的元素个数，∩表示两个集合的交集，即两个集合中共有的元素。 &nbs
转载
2023-10-18 17:25:23
247阅读
环境Python3，gensim，jieba，numpy ，pandas原理：文章转成向量，然后在计算两个向量的余弦值。Gensimgensim是一个python的自然语言处理库，能够将文档根据TF-IDF, LDA, LSI 等模型转化成向量模式，gensim还实现了word2vec功能，以便进行进一步的处理。具体API看官网：https://radimrehurek.com/gensim中文分
转载
2023-12-26 10:54:53
102阅读
一、基于距离的度量“异常值”通常指具有特定业务意义的那一类特殊的异常值。噪声可以视作特性较弱的异常值，没有被分析的价值。噪声和异常之间、正常数据和噪声之间的边界都是模糊的。异常值通常具有更高的离群程度分数值，同时也更具有可解释性。1.1 基于单元的方法k近邻方法的一种延申版基于距离的异常检测有这样一个前提假设，即异常点的 近邻距离要远大于正常点。解决问题的最简单方法是使用嵌套循环。 第一层循环遍
转载
2024-03-05 23:52:59
158阅读
python 基于空间相似度的K-means轨迹聚类数据读取定义不同轨迹间的距离计算距离矩阵k-means聚类 这里分享一些轨迹聚类的基本方法，涉及轨迹距离的定义、kmeans聚类应用。 需要使用的python库如下import pandas as pd
import numpy as np
import random
import os
import matplotlib.pyplot as
转载
2024-02-17 09:18:20
64阅读
0 引言问题背景：大量的工程实践表明，点云匹配关系的求解是一个非常复杂而困难的问题。其核心点在于找到一种映射方法，该方法将某个点映射到一个有限m维的特征向量，
A = {a1，a2，a3，…，am}. 基于某种距离度量的方法，比如欧式距离法，计算A与任意某B的距离值距离值为distance = |A-B|.若A与B的距离值与两点在几何及
拓扑上的相似性呈正相关，该相关系数越接近1（或者-1，效果相
转载
2024-04-29 18:06:18
168阅读
模板匹配最近准备把学过的一些知识整理写成博客，加深印象。 模板匹配是一种最原始、最基本的模式识别方法，研究某一特定对象物的图案位于图像的什么地方，进而识别对象物，这就是一个匹配问题。它是图像处理中最基本、最常用的匹配方法。模板匹配具有自身的局限性，主要表现在它只能进行平行移动，若原图像中的匹配目标发生旋转或大小变化，该算法无效。普通的模板匹配方法属于暴力搜索法，通过将模板图像不断在搜索图上移动，计
转载
2023-10-28 11:53:08
177阅读
代码相似度计算将基于AST和Smith-Waterman算法AST (抽象语法树)AST即Abstract Syntax Trees，是源代码的抽象语法结构的树状表示，树上的每个节点都表示源代码中的一种结构。一般的，在源代码的翻译和编译过程中，语法分析器创建出分析树，然后从分析树生成AST。生成AST使用Python中的ast库来生成源代码的AST最简单的例子:import ast
root_no
转载
2023-07-29 23:14:51
465阅读
1. 相似度模型的应用场景简单的说，相似度模型的应用场景就是，需要找到和某个实体相似的其他实体。比如：（1）商铺选址：某公司要在新城市开新的店铺，需要选址，可以使用相似度模型，找到和现有市场中表现好的商铺地址相似的地点；（2）广告宣传：其实和商铺选址类似，要选择一个好的宣传地点，可以使用相似度模型，找到和现有最好的宣传地点最相似的地点；（3）个性化推荐：这是现在互联网领域，尤其是电子商务领域应用很
转载
2024-03-25 11:07:11
229阅读
