The 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020) 将于2020年7月5日至10日在美国华盛顿州西雅图举行，不过今年因新冠将在线举办。ACL年会是计算语言学和自然语言处理领域最重要的顶级国际会议，CCF A类会议，由计算语言学协会主办，每年举办一次。其接收的论文覆盖了对话交
余弦相似度余弦相似度，又称为余弦相似性，是通过计算两个向量的夹角余弦值来评估他们的相似度。余弦相似度将向量根据坐标值，绘制到向量空间中，如最常见的二维空间。将向量根据坐标值，绘制到向量空间中。如最常见的二维空间。 求得他们的夹角，并得出夹角对应的余弦值，此余弦值就可以用来表征，这两个向量的相似性。夹角越小，余弦值越接近于1，它们的方向更加吻合，则越相似。单位矢量单位向量是指模等于1的向量。由于是
本文是对网上的NLP论文资料的收集和整理综合性资料1.NLP Progress本文对记录自然语言处理（NLP）领域的新进展，并概述最常见的NLP任务及其相应数据集的新技术，涵盖了目前NLP领域常用任务的最佳实验 结果和数据集资源。新智元介绍：新智元专栏原文介绍：https://nlpprogress.com/Github链接：https://github.com/sebastianruder/NL
转载
2024-05-08 23:38:49
70阅读
自然语言处理文本分类实战 第一章 文本分类应用场景介绍一、文本分类任务描述：input—model—output 二、应用场景：评论数据2.情感分析3.意图识别4.进阶应用：第二章 文本表征知识2.1文本表征介绍2.1.1、文本表示：（转化成电脑能够识别的文字） 2.1.2、文本表示的方法 2.2 One Hot编码（独热编码）2.2.1、工作流程 将句子分词构建词表并编码将编码组成一个数字序列O
转载
2024-03-16 10:07:17
85阅读
一、为一个五金搜索网站构建文本相似度检测系统1、项目介绍trainset : 产品id 搜索item 产品item 相似度评分 prodcut_description：产品id 产品介绍2、使用ML modelxgboost3、系统构建思路step1：文本预处理（stemmer很重要 in search） stemmer step2：特征工程（自制文本特征） 1）搜索str中的word在产品str
转载
2024-04-02 13:09:21
85阅读
实验1： Word2Vec & TranE的实现Word2Vec基于给定的代码实现Word2Vec，在Text8语料库上进行训练，并在给定的WordSim353数据集上进行测试。运行word2vec.py训练Word2Vec模型, 在WordSim353上衡量词向量的质量模型的原始参数设定如下，默认5个周期，负采样为5，CBOW模型：model = gensim.models.
转载
2024-03-27 09:30:52
143阅读
自然语言处理（NLP）1.文本建模：基于词袋模型的文章关键词提取、相似度分析等；2.词汇处理：中文分词、用Word2vec寻找近义词等；3.主题模型：比较NMF、LSA、PLSA、LDA技术，建立“文档-主题-单词”的三层模型。 文本建模处理对象——整段文本或整篇文章问题：如何将自然语言文本输入机器学习模型中？解决方法：文本数字向量化。方法1：词袋模型——对于每一个训练文本，它只考虑每种
转载
2024-04-10 10:21:27
84阅读
什么是自然语言处理自然语言处理是人工智能的一部分，人工智能还有其他部分：计算机视觉、知识表示和推理等。语言是人工只能中一个非常特殊的部分，因为语言是人类特有的属性，而对于计算机视觉来说，地球上有很多生物都有相当不错的视觉系统。因此自然语言处理被认为是人工智能核心技术之一。我们的目标是让电脑处理或理解人类的语言从而完成有意义的任务。它可以安排约会、买东西等或进行者智能回答比如siri等。语言有哪些层
转载
2024-05-28 11:20:38
82阅读
1.BERT概述BERT 是 Transformers 双向编码器表示的缩写，是一种用于自然语言处理的机器学习 (ML) 模型。它由 Google AI Language 的研究人员于 2018 年开发，是 11 种以上最常见语言任务解决方案，例如情感分析和命名实体识别。从历史上看，计算机很难“理解”语言。当然，计算机可以收集、存储和读取文本输入，但它们缺乏基本的语言上下文。因此，出现
转载
2024-08-12 22:39:16
63阅读
自然语言处理的首要任务是分词，将一段文本分割成独立的词语。中文分词介绍已经归纳的三种分词如下：规则分词、统计分词、混合分词规则分词：通过设立人工词库，按照一定方式进行切分匹配。正向最大匹配法(Maximum Match Method MM法)的基本思路，假定分词词典中最最长词为 i 个汉字字符，则首先切分待处理文档的前 i 个字符作为匹配子串，在分词词典中查找。如果找到则表示匹配成功，匹配子串作为
转载
2024-07-12 08:50:11
39阅读
特点展示如何使用基于 Python 的深度学习库 PyTorch 应用这些方法演示如何使用 PyTorch 构建应用程序探索计算图和监督学习范式掌握 PyTorch 优化张量操作库的基础知识概述传统的 NLP 概念和方法学习构建神经网络所涉及的基本思想使用嵌入来表示单词、句子、文档和其他特征探索序列预测并生成序列到序列模型学习构建自然语言处理生产系统的设计模式内容介绍
监督学习范式观察和目标
转载
2023-09-05 08:07:21
281阅读
如果你刚接触自然语言处理并对她感兴趣，最好读几本这方面的书籍，除了能让你知道自然语言处理各个领域是干什么的外，还能培养一下NLP的感觉。以下四本书是我读研期间阅读和接触过的，如果您还有好书推荐，欢迎补充。 1、 《自然语言处理综论》（Speech and Language Processing: An Introduction to Natural Language Processin
转载
2024-02-24 11:24:31
686阅读
HMM模型介绍由隐状态序列，生成可观测状态的过程。 两个基本假设：第t个隐状态只和前一时刻的t-1隐状态相关，与其他时刻的隐状态无关。在任意时刻t的观测值只依赖于当前时刻的隐状态值，和其他时刻的隐状态无关。HMM模型参数转移概率：t时刻的隐状态qi转移到t+1时刻的隐状态qj的概率。发射概率：t时刻由隐状态qj生成观测状态vk的结果。初始隐状态概率：自然语言序列中第一个字o1的实体标记是qi的概率
转载
2024-05-10 14:46:12
139阅读
BERT(Bidirectional Encoder Representation from Transformers)是由Devlin等人在2018年提出的基于深层Transformer的预训练语言模型。BERT不仅充分利用了大规模无标注文本来挖掘其中丰富的语义信息，同时还进一步加深了自然语言处理模型的深度。这一节将着重介绍BERT的建模方法，其中包括两个基本的预训练任务以及两个进阶预训练任务。
文章目录5.1 概率和语言模型5.1.1 概率视角下的word2vec5.1.2 语言模型5.1.3 将CBOW模型用作语言模型的效果怎么样？5.2 RNN5.2.1 循环神经网络5.2.2 展开循环5.2.3 Backpropagation Through Time5.2.4 Truncated BPTT5.2.5 Truncated BPTT的mini-batch学习5.3 RNN的实现5.
转载
2024-04-02 11:07:11
132阅读
10.1自然语言理解查询数据库如果有人提出一个问题：Which country is Athens in?得到的回答应该是：Greece.这个数据可以通过数据库语言得到答案： SELECT Country FROM city_table WHERE City= 'athens' 这里有一个文法，可以把句子转换成SQL语句： >>>nltk.data.show_cfg('gr
转载
2024-06-14 23:16:10
105阅读
大家好，我是小发猫。今天又要跟大家讲故事了。 18日结束时，BERT( 《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》)刷新了所有主要NLP公共号码和新闻媒体，创下了11项自然语言处理记录的新纪录，也被称为2019年最强的自然语言处理模式。 作者很早就把论文读完了，很长时间没有
转载
2024-07-12 16:45:15
87阅读
此章节介绍了自然语言处理的相关知识，以及自然语言处理与人工智能、机器学习、语言学和计算机科学之间的关系，此外还介绍了自然语言处理这一学科的发展时间线，从规则系统到统计模型再到深度学习。pyhanlp 接口的调用：from pyhanlp import HanLP
print(HanLP.segment('你好，欢迎在Python中调用HanLP的API'))
for term in HanLP
最近做 Sentiment Analysis 的问题，用 IMDB，Twitter 等 Dataset，拿到原始的一条条文本，直接喂给 Model 肯定不行，需要进行对文本进行预处理。预处理的精细程度很大程度上也会影响模型的性能。这篇 Blog 就记录一些预处理的方法。Remove Stop Words Stop Words，也叫停用词，通常意义上，停用词大致分为两类。一类是人类语言中包含的功能词
转载
2024-02-24 11:24:06
553阅读
语料库和词汇资源1、自然语言工具包（NLTK）2、获取文本语料1.语料库古腾堡语料库网络和聊天文本布朗语料库路透社语料库就职演说语料库标注文本语料库在其他语言的语料库语料库结构载入自己的语料库2.条件频率分布理解条件频率分布使用双连词生成随机文本3、词典资源1. 词汇列表语料库（简单的词典）2. 发音的词典3. 比较词表4. 词汇工具Toolbox和Shoebox4、WordNet1. 意义和同
转载
2023-12-18 23:03:31
224阅读
