前言：在信息安全中后门攻击（Backdoor Attack）是指绕过安全控制而获取对程序或系统访问权的方法。而随着深度学习以及各种神经网络模型的广泛应用，神经网络中存在的后门问题也引起了研究人员的广泛关注。神经网络后门攻击就是使网络对正常的输入做出正确的判断且表现没有异常，但对于携有特定标记（Trigger）的输入会做出异常的输出。这种后门需要攻击者在神经网络的训练阶段通过特殊的方法植入神经网络，
转载
2024-10-29 17:31:04
83阅读
NLP读书笔记，在看过《python自然语言处理实战核心技术与算法 》、《数学之美第二版》记录一些笔记，日后常看看然语言处理技术可以帮助这样的用户使用自然语言和机器交流；NLP基本可以分为两个部分：自然语言处理以及自然语言生成，演化为理解和生成文本的任务；NLP可以被应用于很多领域，这里大概总结出以下几种通用的
转载
2024-10-14 14:41:09
60阅读
在现代自然语言处理（NLP）领域，评测任务变得愈加重要。随着人工智能技术的迅猛发展，各类模型如雨后春笋般涌现出来，但评估这些模型的性能与效果却并不是一件简单的事。因此，深入探讨如何有效进行“nlp 评测任务”，成为了一个刻不容缓的技术挑战。
### 背景定位
NLP评测任务涉及对模型在特定任务下的性能进行系统性的评估。它主要包括文本分类、命名实体识别、情感分析等多种类型的任务。为此，研究者们逐
NLP——常见任务的批量加载2.0 目标：针对NLP子任务，如文本分类、命名实体识别、文本匹配、关系抽取等，如何使用keras批量加载训练集、验证集或测试集，来提升训练或预测效率？1、NER任务的数据生成器import numpy as np
from bert4keras.snippets import sequence_padding, DataGenerator
fro
转载
2024-06-22 18:32:17
36阅读
NLP的四范式 NLP发展到今天已经进入到了LLM的时代，随着模型越来越大，在zero-shot/few-shot的情形下也表现的越来越好，NLP也进入到了新的研究范式里面。学术界按发展时间线将NLP归纳到四个范式： 1），传统的基础学习范式。 2），基于word2vec，cnn，rnn的全监督深度学习范式。 3），基于预训练 + fine-tune的范式。 4），基于预训练 + P
转载
2023-04-11 16:01:00
381阅读
使用PPMI改进共现矩阵共现矩阵的元素表示两个单词同时出现的次数，这里的次数并不具备好的性质，举个例子，有短语叫the car，因为the是个常用词，如果以两个单词同时出现的次数为衡量相关性的标准，与drive 相比，the和car的相关性更强，这是不对的。点互信息(Pointwise Mutual Information,PMI)：表达式如下，P(x)表示x发生的概率，P(y)表示y发生的概率，
新智元报道 来源：microsoft编辑：大明由微软亚洲研究院（MSRA）的自然语言处理（NLP）团队和Microsoft Redmond的语音对话团队的研究人员在斯坦福大学的会话问答（CoQA）挑战赛中处于领先地位。在CoQA挑战中，通过理解文本段落，并回答对话中出现的一系列相互关联的问题，来衡量机器的性能。微软目前是唯一一个在模型性能方面达到人类水
转载
2024-02-27 14:25:20
51阅读
文章目录文本相似度分析情感分类 NLP: Natural Language Processing 自然语言处理 文本相似度分析指从海量数据（文章，评论）中，把相似的数据挑选出来步骤如下：1： 把评论翻译成机器看的懂的语言中文分词：把句子拆分成词语 工具：结巴分词 （Terminal中 pip install jieba -i https://pypi.douban.com/simple/） 结
转载
2023-08-14 10:35:48
150阅读
译者| 大鱼责编 | 琥珀怎样评价输出为文本的系统？刚接触 NLP 时常有个疑问，就是如何评估这样一个系统——其输出为文本，而非对输入分类。当把一些文本输入系统，得到的输出也为文本时，这类问题称为 seq2seq 或字符串转导（string transduction）问题。NLP 的核心就是 seq2seq 建模，这些任务包括：文本摘要文本简化问答聊天机器人机器翻译想想该技术将具有多么激动人心的实
转载
2024-08-02 21:49:19
64阅读
● Word2Vec中skip-gram是什么,Negative Sampling怎么做 参考回答： Word2Vec通过学习文本然后用词向量的方式表征词的语义信息,然后使得语义相似的单词在嵌入式空间中的距离很近。而在Word2Vec模型中有Skip-Gram和CBOW两种模式,Skip-Gram是给定输入单词来预测上下文,而CBOW与之相反,是给定上下文来预测输入单词。Negative Samp
转载
2023-12-17 17:09:25
31阅读
一、前言 在线评论的细粒度情感分析对于深刻理解商家和用户、挖掘用户情感等方面有至关重要的价值，并且在互联网行业有极其广泛的应用，主要用于个性化推荐、智能搜索、产品反馈、业务安全等。此次博文所述的数据集，共包含6大类20个细粒度要素的情感倾向。根据标注的细粒度要素的情感倾向建立算法，对用户评论进行情感挖掘。AI挑战赛简介二、数据集 &n
转载
2023-08-14 10:36:07
119阅读
# NLP模型的评测指标
自然语言处理（NLP）是计算机科学与语言学交叉的领域，致力于让计算机理解、分析和生成人类语言。随着深度学习的发展，NLP模型的性能显著提高，但如何评测这些模型的表现仍然是一个重要的研究课题。本文将介绍NLP模型的常用评测指标，并结合代码示例来帮助理解。
## 1. 常用评测指标
NLP模型的评测指标通常根据具体任务（如分类、生成、翻译等）而有所不同。以下是一些常见的
原创
2024-09-17 06:54:09
504阅读
1. NLP 简介1.1. 定义nlp 即自然语言处理。1.2. 研究领域机器翻译情感分析智能问答文摘生成文本分类舆论分析知识图谱1.3. 相关术语分词 setgment英文分词自然的以空格作为分隔符。 中文分词比较困难，典型的思路是基于字典的最长字符匹配，可以解决部分问题，但是对于歧义性很难解决。词性标注 part-of-speech tagging词性指的是：动词、名词、形容词等。标注的目的是
1、情感分析的基本方法 对情感分析的研究到目前为止主要集中在两个方面：识别给定的文本实体是主观的还是客观的，以及识别主观的文本的极性。大多数情感分析研究都是使用机器学习的方法。 在情感分析领域，文本可以划分为积极和消极两类，或者积极、消极和中性的多类。分析方法主要分为：
转载
2023-07-31 22:45:53
65阅读
【NLP相关】ChatGPT的前世今生：GPT模型的原理、研究进展和案例自然语言处理（NLP）是人工智能领域中最为热门的研究方向之一，近年来在自然语言生成、文本分类、机器翻译等任务上取得了许多重要进展。而GPT模型（Generative Pre-trained Transformer）作为NLP领域中的新宠，具有许多优势，已经被广泛应用于各种任务中。本文将会介绍GPT模型的原理、优劣势以及其在实
转载
2023-10-17 05:23:33
97阅读
BERTTransformer的原理Transformer是一种完全基于Attention机制来加速深度学习训练过程的算法模型。Transformer最大的优势在于其在并行化处理上做出的贡献。 Transformer抛弃了以往深度学习任务里面使用到的 CNN 和 RNN ，目前大热的Bert就是基于Transformer构建的，这个模型广泛应用于NLP领域，例如机器翻译，问答系统，文本摘要和语音识
转载
2023-10-31 10:48:06
52阅读
语音标注是数据标注行业中一种比较常见的标注类型。语音标注的主要工作内容是将语音中包含的文字信息、各种声音“提取”出来，再进行转写或合成，标注后的数据主要用于人工智能，应用在机器学习、语音识别、对话机器人等领域。相当于给计算机系统安装上“耳朵”，使其具备“能听”的功能，使计算机实现精准的语音识别能力。语音标注的方法语音分割语音分割是识别自然语言中的单词，音节或音素之间的边界的过程，该术语既适用于人类
转载
2023-11-28 15:06:39
70阅读
在非结构化数据任务中深度学习模型占据了主流，对于图像数据扩增方法以及比较成熟，而文本数据扩增方法则比较复
转载
2023-10-23 16:28:49
123阅读
在NLP中，最基础的处理的就是分词，不论是一个网页还是一片文章，还是一段话，都是需要先分词的才能去搞清楚这段话的意思的，这里介绍两个最经典的方法，都是基本的算法。一：前向最大匹配(forward-max-matching)分词之前，得知道什么才是单个词，就得有个词典库，作为分词的参考基础。因此我们需要一个包含了我们认为的所
原创
2022-12-14 16:28:32
134阅读
NLP（一）文本生成 --Sampling问题文本生成原理 --Sampling问题1. Greedy Decoding1.1 Greedy Search1.2 Beam Search1.3 Greedy Decoding与Beam Search存在问题2. Sampling引入随机性2.1 随机Sampling(vocab(y~i~))2.2 随机Sampling存在问题2.3 top-k s
转载
2023-08-07 08:36:27
131阅读
