目录实验目的实验内容实验过程结果展示全部代码 实验目的使用免费的中文分词语料库，如人民日报语料库PKU，使用语料库中的常见词编写一个句子，使用二元语法（即每个词只与和它相邻的前一个词有关）在语料库中对句子中的词进行词频统计，输出句子的出现概率。实验内容对给定的pku_training.txt语料库处理，构建一个二元语言模型，二元语言模型是指当前词语出现的概率只与前一个词有关 对语料首先进行处理，
转载
2023-12-18 21:01:30
78阅读
BERT大火却不懂Transformer？读这一篇就够了一、Transformer（code）1.1 句子的 representation embedding with position = word embedding + Positional Embedding处理 nn.Embedding 权重矩阵有两种选择：使用 pre-trained 的 embeddings 并固化
转载
2023-12-07 07:26:27
138阅读
# NLP课程实验：探索自然语言处理的奥秘
自然语言处理（Natural Language Processing，简称NLP）是人工智能领域的重要分支，旨在使计算机能够理解和生成自然语言。随着近年来深度学习技术的迅猛发展，NLP领域取得了显著的进展。本文将结合代码示例，解读一些基本的NLP概念，并阐述一个简单的NLP课程实验过程。
## 一、文本处理基础
在NLP的研究中，文本预处理是一个基
一个NLP入门级的完整实验（一）NLP发展已经很长一段时间了，相比CV，NLP入门要难一些，我相信很多人都像我当初一样，看了很多的算法，公式，模型，一头雾水，看懂了又好似没看懂，模型原理背的滚瓜烂熟，但是做不出来东西，看了别人的源码感觉好像就那么回事，但是复现不出来。因此，我决定从一个具体的实验角度一步一步的循序渐进，像是写日记一样记录一下我的第一个NLP实验。实验目的： 任务是NLP中最基本的文
转载
2023-11-14 21:47:33
42阅读
介绍AllenNLP是由AllenAI提出的基于pytorch的NLP框架，与ELMO师出同门。据项目领导人Matt Gardner所说，该框架是在问题“NLP实验的最优实践方式”下提出的。 在EMNLP2018上，AllenAI对该框架做了介绍：演讲ppt。 ppt讲述该框架的指导原则，也是NLP实验的指导原则，受益匪浅。 我将这个ppt上传到百度网盘(提取码：ywm2)，方便github速度慢
转载
2024-01-30 18:58:44
27阅读
[1] 什么是 NLP(自然语言处理)[2] 为什么要写博客 入手差不多有一个月，算是有点了解。前期总想着把自己一步步获取的知识写下来，用以作为知识路线为以后的深造指明方向。先，把前期做的几个小实验总结一下[3] 内容摘要 这里只有简单的几个小实验，如果你想入门 NLP。建议看一下去搜一下，CSDN 中就有好多资料。这里可以帮你在刚刚入门后，自己动动手。当然，有一定基础的可以根据这几个实验入门 N
转载
2023-08-17 08:59:32
64阅读
1. 引言如今，随着NLP技术的迅速发展，越来越多的人开始关注这个领域的研究。然而，自从ChatGPT出来以后，我已经被问了N次了：“我们还能研究什么呢？”本文将从多个方面探讨这个问题，并分享一些关于未来NLP研究方向的拙见。2. GPT系列的完善与优化尽管现有的GPT系列模型在NLP领域取得了很高的成就，但它仍然存在许多不足之处。例如，模型的训练成本巨大，泛化能力有限，容易产生伪造信息等。作为研
转载
2024-04-26 14:56:22
51阅读
NLP-自然语言处理NLP，Natural Language Processing 用机器处理人类语言的理论和技术研究在人与人交际中以及人与计算机交际中的语言问题的一门学科。 两大著名实验： 自然语言处理与图灵测试：测试是否能让某机器表现出与人一样或者无法区分的智能 图灵测试与中文屋子：判断图灵测试是否准确，是否存在一种规则手册满足使机器像人一样智能化NLP的历史 20世纪50年代起步——机器翻译
转载
2024-01-29 01:03:45
36阅读
编程语言：java三种工具的简要介绍：FudanNLPgoogle project上的介绍是：FudanNLP主要是为中文自然语言处理而开发的工具包，也包含为实现这些任务的机器学习算法和数据集。FudanNLP及其包含数据集使用LGPL3.0许可证。If you're new to FudanNLP, check out the Quick Start (使用说明) page, FudanNLP
转载
2023-06-28 13:53:39
80阅读
0、补充链接： NLP领域基本名词、算法 、 问答系统的常见技术 一、QA问答系统DeepLearning：
① seq2seq + attention
② transformer、bert
转载
2023-08-03 20:12:52
75阅读
一、NLP情绪识别入门情感倾向分析的方法主要分为两类：基于情感词典的方法； 基于机器学习的方法，如基于大规模语料库的机器学习。 前者需要用到标注好的情感词典；后者则需要大量的人工标注的语料作为训练集，通过提取文本特征，构建分类器来实现情感的分类。 情感词典的构建是情感分类的前提和基础，目前在实际使用中，可将其归为 4 类:通用情感词、程度副词、否定词、领域词。目前国内外，情感词典的构建方法主要是利
转载
2023-10-31 15:46:28
59阅读
项目介绍文本分类是自然语言处理的应用领域之一，文本分类是很多其他任务的基本型。本项目是一个最简单的二分类问题。本项目会介绍如何将文本数据转化为数值型的特征数据（提取文本特质）。然后，使用机器学习当中的支持向量机算法，用 Python 实现对 10001 个邮件样本进行分类的任务。知识点自然语言处理基本概念支持向量机算法TF-IDF文本分类简介文本分类技术在自然语言处理领域当中，有着十分重要的地位。
转载
2023-09-08 10:36:30
265阅读
Shader 高级篇（六）本节将使用一张噪声纹理来模拟火焰的消融效果，噪声应用在模拟水面的波动上，从而产生波光粼粼的视觉效果。回顾实现的全局雾效，并向其中添加噪声来模拟不均匀的飘渺雾效。消融效果消融（dissolve） 效果常见于游戏中的角色死亡、地图烧毁等效果。原理非常简单，概括来说就是噪声纹理+透明度测试。使用对噪声纹理采样的结果和某个控制消融程度的阈值比较，若小于阈值，就使用clip函数把它
转载
2024-03-10 20:10:55
94阅读
记录下NLP任务一些经验总结。输入 1、字向量编码 2、词向量编码(如果可以根据语料自己训练) 3、位置编码，相对位置编码或者w2v思路的位置编码 4、对于字向量与词向量如果要采用相加的形式组合在一起，可以把词向量重复n词，n表示的是当前词有多少个字，可以直接保证维度一致序列标注问题 1、采用BIO做数据标注 2、半指针-半标注，分别预测开始位置与结束位置 3、多实体的可将开始位置与结束位置的so
转载
2023-10-26 12:23:13
69阅读
简历的目的是拿到面试机会，所以要1、简历项目一、投资人用户画像，给新的项目推荐投资机构，文本的处理，文本相似问题，用tfidf和浅语义模型解决，文本检索技术，可以归类为文本检索的问题 文本预处理：中文分词，然后去除停用词、删除低频词、进行word ->id转换 可选的优化：比如用TF-IDF为词汇加上局部权重，构建TF_IDF向量 将训练文本用Dictionary转换成id表现的形式，
转载
2024-01-15 09:04:45
65阅读
文章目录项目项目忠告数据标注算法开发效果优化算法部署硬件问题CPUGPUAI项目部署基本原则深度学习推断框架任务微服务 项目项目忠告数据标注前期一定要制定充分的标注规则数据的采集一定要具有代表性非常不建议采用自动标注的方式先训练一个初步模型，然后只让相关人员进行校对，可以保证标注效率并减少标注成本。算法开发千万不要采用规则的方式进行开发初期就要引导客户使用和购买能够支持深度学习框架的硬件算法开发
转载
2024-05-15 14:17:47
32阅读
# 国内NLP实验室介绍与技术应用
## 引言
自然语言处理（Natural Language Processing，NLP）是人工智能领域中的重要研究方向之一，它致力于使机器能够理解、分析和生成自然语言。在近年来，国内的NLP实验室蓬勃发展，取得了许多令人瞩目的成果。本文将介绍国内NLP实验室的背景、发展情况，并通过代码示例展示一些常见的NLP技术应用。
## 国内NLP实验室概述
国内
原创
2023-10-10 06:05:11
87阅读
实验要求完成对中文搜狗新闻语料库的LDA主题提取。实验内容一、训练关键词提取算法（1）加载已有的文档数据集。为了解决编码
原创
精选
2024-04-15 15:49:48
225阅读
摘要部分1、实体关系抽取很重要，是很多领域的核心任务和重要环节 2、作用：能够从文本中抽取实体对间的语义关系 3、发展趋势：深度学习的实体关系抽取技术,在特征提取的深度和模型的精确度上已经逐渐超过了传统基于特征和核函数的方法 4、如何工作：通过对文本信息建模,自动抽取出实体对之间的语义关系,提取出有效的语义知识 5、成果应用：文本摘要、自动问答、机器翻译、语义网标注、知识图谱等 6、自然语言处理国
编译原理实验：词法分析1. 实验题目：词法分析实验目的实验内容实验要求输入输出2. 设计思想3.算法流程4. 源程序5. 调试数据1. 实验题目：词法分析实验目的根据PL/0语言的文法规范，编写PL/0语言的词法分析程序；或者调研词法分析程序的自动生成工具LEX或FLEX，设计并实现一个能够输出单词序列的词法分析器。通过设计调试词法分析程序，实现从源程序中分出各种单词的方法；加深对课堂教学的理解；
