我们在百度时简单输入一些信息会在输入框的下面以列表的形式显示几条数据，这些都是与你所输入信息相关的热词，以提升用户的体验。下面我们做下简单的实现：1. 热词： 这些词你可以从后台数据库中取，可以在cookies中读取，也可以在localStorage中读取等，这些根据你的需求来定，这里我们把这些热词定义到一个json数据中
转载
2024-07-16 13:52:21
44阅读
# NLP模型与关键词检索模型的区别
自然语言处理（NLP）是计算机科学和人工智能的一个分支，其目的是让计算机能够理解、解释和生成人类的语言。在众多的NLP技术中，关键词检索模型是一个重要的概念。本文将探讨NLP模型与关键词检索模型的关系，并从技术角度进行分析。
## 关键词检索模型
关键词检索是信息检索的一种基本方法，通常用于根据用户输入的关键词在数据库中查找相关文档。它的工作原理主要依赖
本次搬运Sebastian Ruder的博客A Review of the Neural History of Natural Language Processing，可以快速了解深度学习时代NLP的发展历史及其中的里程碑式工作。2001 Neural language models语言建模是指在给定前面若干个单词的情况下，预测文本下一个出现的单词。这是一个最简单的自然语言处理任务，但同时有着最具
转载
2023-09-30 22:34:50
69阅读
搜索引擎现在早已经成为人们查找信息的首选工具，Google、百度、中国搜索等大型搜索引擎一直是人们讨论的话题。随着搜索市场价值的不断增加，越来越多的公司开发出自己的搜索引擎，阿里巴巴的商机搜索、8848的购物搜索等也陆续面世，自然，搜索引擎技术也成为技术人员关注的热点。
搜索引擎技术的研究，国外比中国要早近十年，从最早的Archie，到后来的Excite，以及altvista、overtur
# NLP 同义词模型的科普介绍
随着自然语言处理（NLP）技术的发展，同义词模型在文本理解、信息检索和情感分析等任务中凸显出其重要性。本文将解释同义词模型的基本概念，并通过代码示例展示如何在 Python 中实现一个简单的同义词模型。
## 什么是同义词模型？
同义词模型是自然语言处理中的一种技术，旨在通过捕捉词汇之间的相似性来识别同义词。它可以帮助计算机理解不同的词汇是如何在意义上相互关
原创
2024-11-02 04:55:53
282阅读
背景之前做问答机器人的时候需要一个定闹钟的场景，比如：明早7点半叫我起床 下午2点的闹钟 每天8点半叫我起床 …之类的，要根据该文字描述让后台创建一个定时任务来叫我起床，需要用到cron表达式，但是文本转换成cron是个头大的事情，竟然没找到合适的工具，尝试过提取时间，也最终被堆积的if else打败—是在下输了！整理了一下思路：我要做的是 输入一段文字 然后转换成cron表达式，可以理解为翻译，
转载
2024-09-02 14:53:54
20阅读
NLP 数据增强Created time: June 26, 2021 5:23 PM Last edited time: Sept 8, 2021 20:18 PM参考资料：https://amitness.com/2020/05/data-augmentation-for-nlp/1. 词汇替换替换语句中的单词而不改变句子原本的语义，即同义词替换，同义词的来源可以有以下几种方式。1.1 基于词
转载
2023-12-23 17:54:47
268阅读
目录标困惑度（Perplexity）BLEU精确率和召回率 困惑度（Perplexity）困惑度 是语言模型的一个衡量标准。因为单纯序列的似然概率是一个难以理解、难以比较的数字。 毕竟，较短的序列比较长的序列更有可能出现， 因此评估模型产生长篇巨著《战争与和平》的可能性会比产生中篇小说《小王子》可能性要小得多。一个好的语言模型应该能让我们准确地预测下一个词元。 所以我们可以通过一个序列中 所有的
转载
2023-07-08 11:39:03
362阅读
了解BERT和NSPBERTBERT的全称为Bidirectional Encoder Representation from Transformers，是一个预训练的语言表征模型。它强调了不再像以往一样采用传统的单向语言模型或者把两个单向语言模型进行浅层拼接的方法进行预训练，而是采用新的masked language model（MLM），以致能生成深度的双向语言表征。在多个NLP任务中取得非常
转载
2023-10-17 20:35:11
66阅读
auto_ml模块介绍用于生产和分析的自动化机器学习模块。自动化整个机器学习过程，使它超级容易使用的分析，并得到实时预测在生产。快速概述流行词，这个项目包括分析(传入数据，auto_ml将告诉您每个变量与您试图预测的变量之间的关系)、特征工程(特别是关于日期和NLP)、自动缩放(将所有值转换为它们在0和1之间的缩放版本，这种方式对异常值处理很强大，并且可以处理稀疏数据)、特性选择(只选择实际证明有
Word2vec 是一种计算效率特别高的预测模型，用于学习原始文本中的字词嵌入。 它分为两种类型：连续词袋模型 (CBOW) 和 Skip-Gram 模型。 从算法上看，这些模型比较相似，只是 CBOW 从源上下文字词（“the cat sits on the”）中预测目标字词（例如“mat”）， 而 skip-gram 则逆向而行，从目标字词中预测源上下文字词。这种调换似乎是一种随意
转载
2023-09-28 22:43:00
81阅读
模型一词，原本是好理解的，名词，大概就是一个缩小版的实际产品的意思。 当然了，你可以去查查百科，模型其实不只可以描述实物，还可以描述虚拟物件。我们主要来看看后者。 当模型这在软件行业使用时，好像就变了味道。比如：开发模型，java内存模型，线程模型，io模型，reactor模型，生产模型，消费模型，消息传递模型... 这让我在很长一段时间里，一直搞不懂，何谓模型。随着年龄的增长，总算有了
转载
2023-12-26 19:44:01
36阅读
NLP(1) | 词向量one hot编码词向量编码思想分词的概念 简单来说就是把词进行分开，分词的难点： 1.如何避免歧义，如：“白开水不如果汁甜”。如何让机器避免将“如果”分到一起。 2.如何识别未登录词，并判断词性（人物，地点） 解决歧义的方法有很多，使用n_gram模型或者概率统计在解决歧义的作用下很好实现，如下面要介绍的HMM和CRF
转载
2024-04-02 22:22:08
26阅读
语言模型(LM)的作用是估计不同语句在对话中出现的概率，并且LM适用于许多不同的自然语言处理应用程序(NLP)。 例如，聊天机器人的对话系统。在此文中，我们将首先正式定义LM，然后演示如何使用实际数据计算它们。 所有显示的方法在Kaggle notebook中有完整的代码展示。一、语言模型(LM)的定义概率语言建模的目标是计算单词序列的语句出现的概率： &n
转载
2023-08-14 10:36:44
226阅读
1、整理文件（修改之前的 爬取网页的 文件 不再 撰写） 嗯，现在我已经将文件规整好了，如下图。先说一下，改造以后的python代码将每一个类分别单独封装成一个.py文件，每一个执行过程将单独使用一个.py文件，并放入到 itWords.process 包当中！我想过可以将所有执行过程写到一个.py文件里，但这样的话就有点儿乱，最终还是决定分开写。 itWord
目录：基础部分回顾（词向量、语言模型）NLP的核心：学习不同语境下的语义表示基
转载
2022-08-15 10:38:53
507阅读
在学习机器学习的过程中我们总会遇见一些模型,而其中的一些模型其实可以归类于生成模型或者是判别模型中去,而这一篇文章我将会简单的概述下我最近所遇到的一些模型,并且按照自己的理解去记录下来,其中肯定会有差错,如果那里不对,还请各位多多指教.1:演变关系 上边的图是 这一篇论文中的一个截图,而第一张图其实讲的是几种模型的演进的一个过程,而这个过程如果加以简单的概括的话,可以归
转载
2024-05-21 08:57:43
33阅读
第二章:迁移学习2.1 迁移学习理论学习目标:了解迁移学习中的有关概念.掌握迁移学习的两种迁移方式.迁移学习中的有关概念:
预训练模型微调微调预训练模型(Pretrained model):
一般情况下预训练模型都是大型模型，具备复杂的网络结构，众多的参数量，以及在足够大的数据集下进行训练而产生的模型. 在NLP领域，预训练模型往往是语言模型，因为语言模型的训练是无监督的，可以获得
转载
2024-08-01 07:48:44
57阅读
04 梯度增强Kriging模型理论的相关推导4.1 问题定义4.2 GEK模型的建立参考文献 梯度信息可用于提高 Kriging 模型精度，而如果采用Adjoint方法等快速求解梯度方法，还可提高建立Kriging模型的效率。利用梯度信息来提高Kriging模型的精度，成为一种新的代理模型方法，称为梯度增强型 Kriging（Gradient-Enhanced Kriging, GEK）模型。
转载
2024-01-04 00:06:51
264阅读
陆：句法分析语言学的不同分支对应了不同的nlp基础技术，词法学对应于自动分词、词性标注等，而句法学对应的是句法分析。句法(Syntax): 研究语言的句子结构，针对语言学两个基本关系中的组合关系。一、句法分析概述概念句法分析：判断单词串是否属于某个语言，如果是，则给出其（树）结构。句法分析包含两个子问题，一是语言体系的形式化描述，二是语言结构的分析算法。
一般而言，语言结构分析算法的任务着重
转载
2023-08-31 18:17:08
209阅读
