涉及自然语言处理、人工智能、机器学习等诸多理论以及技术的顶级会议——ACL 2017于今年7月31日-8月4日在加拿大温哥华举行。从近期谷歌学术（Google Scholar）公布的学术杂志和会议排名来看，ACL依然是最重要的自然语言处理相关的人工智能会议。因为这个会议的涵盖面非常广泛，且理论文章较多，一般的读者很难从浩如烟海的文献中即刻抓取到有用信息，这里笔者从众多文章中精选出5篇有
转载
2024-01-08 10:58:23
35阅读
文 | Severus编 | 小轶随着大模型的发展，NLP领域的榜单可说是内卷到了无以复加，现在去浏览各大
转载
2022-07-30 00:19:38
111阅读
NLP论文解读：GPT-2摘要自然语言处理中，使用标注数据集的有监督fine-tuning方法成为主流。本文使用自行构建的新数据集WebText构建了一个语言模型直接处理下游任务。处理阅读理解任务时，GPT-2没有使用该task的标准训练集CoQA（127000+）进行fine-tuning，仍然好过4个baseline中的3个。语言模型的容量是零样本学习任务的重要成功要素，本文的模型有15亿参数
转载
2024-03-14 17:40:24
53阅读
文章目录前言：目录1. Paper：2. 背景介绍3. 论文摘要4. 研究意义5. 论文总结 2. 背景介绍多标签文本分类是自然语言处理的重要任务，多标签文本分类可以用到文本分类，推荐以及信息检索中。但是目前的多标签文本分类模型存在两个问题：没有注意到标签之间的相关性以及不同文本对于不同标签分类的重要性不同。为了解决这两个问题，我们使用Seq2Seq模型学习标签之间的相关性，使用注意力机制学习不
转载
2023-12-19 22:02:55
335阅读
一、《Encoding Sentences with Graph Convolutional Networks for Semantic Role Labeling》 语义角色标注Semantic role labeling (SRL)：以句子的谓词为中心，不对句子所包含的语义信息进行深入分析，只分析句子
转载
2023-11-24 16:10:30
78阅读
NLP经典论文：ELMo 笔记论文介绍模型结构文章部分翻译AbstractELMo: Embeddings from Language Models3.1 Bidirectional language models3.2 ELMo3.3 Using biLMs for supervised NLP tasks3.4 Pre-trained bidirectional language model
转载
2023-08-07 19:44:58
297阅读
for very deep convolutional networks for nlp对于nlp中的任务，我们一般会采用RNN（尤其是lstm）和cnn网络，但是相比于计算机视觉中的神经网络是非常浅的。文章提出了一个新的结构，用于文本处理，作用于字符级别上，使用小的convlution和pooling 操作（小，应该指的是卷积核和步长之类）。用了29层卷积层。这是深度卷积网络第一次用于NLP。‘
转载
2024-06-26 15:30:35
55阅读
自然语言处理 (NLP) 是人工智能 (AI) 的一个分支，旨在通过将计算语言学与统计、机器学习和深度学习模型相结合，尽可能接近人类解释地理解人类语言。NLP 的最大挑战之一是在考虑到各种语言表示的情况下预训练文本数据的过程。2018 年，谷歌采购了一种称为 BERT（Bidirectional Encoder Representations from Transformers）的预训练 NLP
转载
2023-11-21 20:02:08
124阅读
简述此篇论文是面向关系抽取（关系分类）任务的模型设计阐述，主要亮点有两个：PCNN：用以解决（缓解）传统特征工程等nlp工具的繁杂和表现不好的问题，并实验证明能够有效提取出entity词对相关的关键信息。Multi-instance的使用：在instance-level数据输入的基础上使用了bag-level的数据输入，即多个instance组成一个bag，用以解决（缓解）distant supe
转载
2023-12-09 16:37:06
67阅读
相关论文一览方法联合方法神经网络特征编码融合特征元素依赖融合特征陈(2015)1否动态多池化CNN词嵌入、位置特征、类型特征无Nguyen(2016)2是双向 RNN词嵌入、实体类型、依赖树中词语依赖边关系记忆向量/矩阵（触发词/论元）陈 (2016)3是双向 LSTM（多池化）词嵌入、skip-window CNN特征张量层（事件论元）sha (2018)4是双向 LSTM依存关系论元关系张量丁
转载
2024-08-07 17:03:03
65阅读
书山有路勤为径，学海无涯苦作舟1、知识图谱知识图谱，不光包含视觉，听觉、文本，而是尽可能将掌握的知识，全部融合在一起，构建出一个图模型。人与人之间存在关系，创建一个技术把人情世故和关系抖关联在一起。知识图谱会涉及NLP中的技术，但是我们所涉及的数据远远不至于文本，所以知识图谱并不是只属于NLP领域的技术，而是一个综合的学科。达到建立一个图的模型，建立好实体之间的逻辑关系。只要有了图模型，可以做推荐
正则表达式 jieba中文处理和拉丁语系不同，亚洲语言是不用空格分开每个有意义的词的。而当我们进行自然语言处理的时候，大部分情况下，词汇是我们对句子和文章理解的基础，因此需要一个工具去把完整的文本中分解成粒度更细的词。jieba就是这样一个非常好用的中文工具，是以分词起家的，但是功能比分词要强大很多。 1.基本分词函数与用法 jieba.cu
文章目录前言：目录1. Paper：2. 背景介绍3. 论文摘要4. 研究成果5. 研究意义6. 论文总结 1. Paper：Hierarchical Attention Networks for Document Classification 使用层次注意力网络做文档分类2. 背景介绍文本分类是自然语言处理的基础任务之一，近期的研究者逐渐开始使用基于深度学习的文本分类模型虽然基于深度学习的文本分
文 | Severus编 | 小轶随着大模型的发展，NLP领域的榜单可说是内卷到了无以复加，现在去浏览各大公
转载
2021-12-15 17:13:23
112阅读
本周末参加了由腾讯和中国中文
原创
2023-06-21 19:27:25
78阅读
文 | Severus编 | 小轶随着大模型的发展，NLP领域的榜单可说是内卷到了无以复加，现在去浏览各大公开榜单，以至于各个比赛，随处可见BERT、RoBERTa的身影，甚至榜单中见到各大large模型的集成版也并非偶然。在发论文的时候，又要不断地去内卷SOTA，今天的SOTA在明天就有可能被打败，成为了过眼云烟。极端情况下，某一篇论文正在撰写，ArXiv上就突然刷新了SOTA，又足以让研究者们
原创
2023-05-02 09:46:28
189阅读
NLP论文（情感分析）：《A Novel Bi-Branch Graph Convolutional Neural Network for Aspect Level Sentiment Classification》 笔记论文介绍模型结构文章翻译AbstractV. CONCLUSION相关的笔记相关代码pytorchtensorflowkeraspytorch API:tensorflow A
转载
2023-09-26 14:22:33
91阅读
自然语言处理论文去哪找？不管是想要追最新的实验效果最好的模型论文，还是想稳妥起见先从简单基础的入手，我们都会面临选择，论文确实太多了，如果目标明确当然好，当我们不是很明确的时候可以怎么办？当然首先是可以看他人写的总结。自然语言处理论文去哪找？一.谷歌学术曾经我总是想着去知网搜论文，希望不是只有我不知道吧。。还是应该去**谷歌学术**搜论文会更好一点，论文更全，搜索质量更高。顺便一提，虽然英文的论文
转载
2024-04-23 15:20:34
23阅读
本周末参加了由腾讯和中国中文信息学会青工委联合举办的ACL2017前沿论文报告会，邀请了ACL发表论文的国内
原创
2022-06-29 22:39:27
3473阅读
文 | Severus编 | 小轶随着大模型的发展，NLP领域的榜单可说是内卷到了无以复加，现在去浏
转载
2022-07-27 09:47:44
75阅读
