论文介绍发表：2019，EMNLP论文题目：《Sentence-BERT：sentence embeddings using siaese BERT-networks》 论文地址:https://arxiv.org/abs/1908.10084 Github:https://github.com/UKPLab/sentence-transformers适用领域：句向量生成语义相似度计算语义搜索无监
转载
2024-01-24 21:03:23
213阅读
用于自然语言推理的增强型 LSTMgithub: https://github.com/daiyizheng/shortTextMatch/blob/master/src/DL_model/classic_models/models/ESIM.py本文作者提出了基于LSTM的ESIM模型，该模型优于之前所有的模型。ESMI主要通过链式LSTM（作者也提到了Tree LSTM结构的模型HIM，但是不
转载
2023-11-28 12:34:48
130阅读
环境设置：SentenceTransformertransformersSentenceTransformers Documentation — Sentence-Transformers documentation (sbert.net)Sentence Transformer是一个Python框架，用于句子、文本和图像嵌入Embedding。这个框架计算超过100种语言的句子或文本嵌入。然后，
转载
2024-02-10 06:53:52
411阅读
作者：刘子仪paper：tBERT: Topic Models and BERT Joining Forces for Semantic Similarity Detection分析语义相似度一直都是自然语言处理中的一个基础任务，在很多场景下例如问答系统，抄袭检测都有应用。这篇文章针对特定领域下的语义相似比较提出了结合topic models和BERT的tBERT模型。模型架构很简单，topic模
转载
2023-12-13 13:22:00
111阅读
1. ERNIE简介这里的ERNIE(包括后面介绍的都是指的ERNIE1.0)是指百度提出的知识增强的语义表示模型 ERNIE（Enhanced Representation from kNowledge IntEgration），而且发布了基于 PaddlePaddle 的开源代码与模型 。 ERNIE在结构上和BERT是一样的，只是改进了BERT的预训练阶段，增加了实体等先验知识，而且在大型中
转载
2024-05-13 14:00:48
60阅读
短文本语义匹配/文本相似度框架(SimilarityNet, SimNet)，基于bow_pairwise模式及框架原理介绍 一、简介短文本语义匹配(SimilarityNet, SimNet)是百度一个计算短文本相似度的框架，可以根据用户输入的两个文本，计算出相似度得分。1.1 示例句子1 句子2 相似度
车头 如何 放置 车牌 前 牌照
转载
2024-01-18 21:16:02
130阅读
WordNetIntroductionWordNet是由Princeton 大学的心理学家，语言学家和计算机工程师联合设计的一种基于认知语言学的英语词典。它不是光把单词以字母顺序排列，而且按照单词的意义组成一个“单词的网络”。它是一个覆盖范围宽广的英语词汇语义网。名词，动词，形容词和副词各自被组织成一个同义词的网络，每个同义词集合都代表一个基本的语义概念，并且这些集合之间也由各种关系连接。Word
转载
2023-10-03 14:45:21
254阅读
Word2Vec Model Analysis for Semantic Similarities in English Words摘要1. 简介2. 相关工作3. 方法论3.1 语义相似性3.2 系统概述3.3 词嵌入3.4 数据集3.5 预处理3.6 Word2Vec配置设置4. 评价4.1 测试4.2 测试结果分析5. 结论和未来的工作 文献信息：标题：英语单词语义相似性的Word2Vec
转载
2024-04-26 14:54:09
33阅读
本文《Siamese Recurrent Architectures for Learning Sentence Similarity》提出了一种使用孪生递归网络来计算句子语义相似度的方法。首先，使用LSTM将不定长的两个句子编码为固定尺寸的特征，再通过manhattan距离来衡量特征之间距离。论文地址:https://dl.acm.org/citation.cfm?id=3016291引言句子相
转载
2023-11-11 20:54:27
105阅读
文本相似在问答系统中有很重要的应用，如基于知识的问答系统（Knowledge-based QA），基于文档的问答系统（Documen-based QA），以及基于FAQ的问答系统（Community-QA）等。像 对于问题的内容，需要进行相似度匹配，从而选择出与问题最接近，同时最合理的答案。本节介绍 基于bm25算法。 直接调用rank_bm25：im
转载
2024-06-03 11:06:34
141阅读
有两种思路：采用ad-hoc检索方式1.首先获取原有的数据集qa-pairs2.用户提出的问题，进行预处理后，先从数据集中获取，相关的10个预选答案，可以采用Lucene全文检索方法。3.之后采用深度文本匹配模型（drmm），从10个预选答案中选出分数最高的答案作为最终的答案。参考：https://www.chedong.com/tech/lucene.htmlA Deep Relevance M
转载
2024-05-01 17:46:52
74阅读
DSSM (Deep Structured Semantic Models)用于文本相似度匹配场景，是为了平衡搜索的关键词，和被点击的文本标题之间的相关性。论文地址：https://www.microsoft.com/en-us/research/wp-content/uploads/2016/02/cikm2013_DSSM_fullversion.pdf目录1、DSSM原理1.1、wordha
转载
2023-12-10 15:17:34
214阅读
前面讲的各个语义相似性计算的模型，基本都是双塔的结构。双塔结构主要优点是相似性计算快速，这里指的快速不是模型单个数据的推理速度，而是在大量问句场景下的计算，比如相似问句的召回场景。因为双塔模型得到的其实是单个问句的表示，相似性的计算只是在最后做了简单的计算，最耗时的问句表示操作可以离线完成。而cross
转载
2023-11-29 15:59:07
155阅读
注：只挑选了干货部分进行翻译 目录前言1. 传统搜索1.1 Jaccard Similarity1.2 w-Shingling1.3 Levenshtein Distance2. 向量相似度检索2.1 TF-IDF2.2 BM252.3 BERT 前言相似性搜索（Similarity search）是人工智能和机器学习中发展最快的领域之一。其核心是将相关信息片段匹配在一起的过程。相似性搜索是一个复
转载
2023-11-07 17:05:38
253阅读
1. 文本相似度计算-文本向量化2. 文本相似度计算-距离的度量3. 文本相似度计算-DSSM算法4. 文本相似度计算-CNN-DSSM算法1. 前言最近在学习文本相似度的计算，前面两篇文章分别介绍了文本的向量化和文本的距离度量，这两篇文章的思路主要在机器学习的框架下面，本文准备换一个思路，从深度学习的角度来处理文本相似度的问题。本文介绍DSSM（Deep Structured Semantic
转载
2023-12-20 22:35:50
132阅读
计算机对主观题的自动评阅准确与否，主要取决于其对文本相似度的计算是否准确。由于文本相似度计算在文档复制检查、信息检索和机器翻译等领域都有十分广泛的应用，所以，近年来有越来越多的学者致力于文本相似度算法的研究。总体来看，文本相似度的计算方法主要分为两大类：一类是基于统计学的计算方法，此种方法需要大规模的语料库，并且在计算时没有考虑文本的句子结构信息和语义信息，计算的结果有时会与人对自然语言的理解不相
转载
2023-12-19 09:05:36
52阅读
诸多事物都要受到其周边事物的影响，进而改变自身的形态，甚至确立自己的存在——云动，方知风的存在。反映在人的眼中，则是云赋予了风的含义：若无云，岂有风？
0. 动机武林高手经常从山川之间顿悟，并由山川之形变化出上乘武艺。风云之间的飘渺互动，实则也为实打实的科学、工程实践提供了指引。风是客观存在的，而只有籍由云，我们才能观察到它。在技术领域的日常工作中，诸如此类的例子数不胜数。而在自然语言语义的
转载
2023-12-26 11:50:46
76阅读
基于预训练模型 ERNIE-Gram 实现语义匹配本案例介绍 NLP 最基本的任务类型之一 —— 文本语义匹配，并且基于 PaddleNLP 使用百度开源的预训练模型 ERNIE1.0 为基础训练效果优异的语义匹配模型，来判断 2 个文本语义是否相同。一、 背景介绍文本语义匹配任务，简单来说就是给定两段文本的相，让模型来判断两段文本是不是语义相似。在本案例中以权威的语义匹配数据集 LCQMC 为例
转载
2024-04-16 21:15:41
402阅读
任务描述 问句匹配是自然语言处理的最基本任务之一，是自动问答，聊天机器人，信息检索，机器翻译等各种自然语言处理任务基础。问句匹配的主要目的是判断两个问句之间的语义是否等价。判别标准主要根据主句（即提问者）所蕴含的意图来判断两个语句是否等价，而不直接判断两个语句是否表达相同的语义。因此，其核心是语句的意图匹配。由于来源于真实问答语料库，该任务更加接近于智能医疗助手等自然语言处理任务的实际需
转载
2023-11-29 15:20:31
70阅读
本文《Siamese Recurrent Architectures for Learning Sentence Similarity》提出了一种使用孪生递归网络来计算句子语义相似度的方法。首先，使用LSTM将不定长的两个句子编码为固定尺寸的特征，再通过manhattan距离来衡量特征之间距离。 论文地址:https://dl.acm.org/citation.cfm?i
转载
2023-10-03 13:59:06
234阅读
