作者：chen_h 微信号 & QQ：862251340 微信公众号：coderpai（一）ngram 模型N-gram 模型是一种语言模型（Language Model，LM），语言模型是一个基于概率的判别模型，它的输入是一句话（单词的顺序序列），输出是这句话的概率，即这些单词的联合概率（joint probability）。N-gram 本身也指一个由N个单词组成的集合，各单词具有先后
转载
2024-02-23 22:00:09
693阅读
浅析Java语言的实现机制，主要了解了一下java虚拟机、垃圾回收机制和代码安全性检测这些问题
Java语言实现机制 1.Java虚拟机(Java Virtual Machine) Java虚拟机（JVM）是在一台计算机上由软件模拟也可以用硬件来实现的假想的计算机。它定义了指令集（相当于中央处理器CPU）、寄存器集、类文件结构栈、垃圾
转载
2023-07-07 20:03:53
118阅读
由于语料不可能覆盖掉所有的情况，比如语料中有“小明读了一本书”， 那么“小李读了一本书”没有在语料中出现按照MLE最大似然估计其概率就是0，这显然是不合常理的。所以我们需要对模型进行光滑处理，就是要分一部分概率给语料中没有出现的部分。问题是如何分配，应该分配多少呢。(下面的课件来自nhu的NLP课程） 这种情况看上去我们分给未知部分的概率太多了24/29 更多的观察更好的数据更小的
转载
2024-01-16 15:09:03
109阅读
1.N-Gram的原理N-Gram是基于一个假设：第n个词出现与前n-1个词相关，而与其他任何词不相关。（这也是隐马尔可夫当中的假设。）整个句子出现的概率就等于各个词出现的概率乘积。各个词的概率可以通过语料中统计计算得到。假设句子T是有词序列w1,w2,w3…wn组成，用公式表示N-Gram语言模型如下：P(T)=P(w1)*p(w2)*p(w3)***p(wn)=p(w1)*p(w2|w1)*p
NLP - ngram - N元语言模型 python 实现一、说明N-Gram N元语言模型： N-Gram（
原创
2022-10-28 14:17:27
1091阅读
N-Gram语言模型初探语言模型(Language Model,LM)在自然语言处理中占有十分重要的地位，尤其在基于统计的语音识别、机器翻译、分词和 query纠错等相关应用中有着广泛的应用。目前主要采用的是 n 元语法模型(n-gram model)。笔者在工作用中应用到了 query改写和 query 的纠错，均起到了不错的应用效果，本文将从一下几点介绍 n-gram 语言模型。n-gram
转载
2024-06-26 15:02:14
60阅读
一、概述 对于语音识别来说，大体上就分为三个方面，一个是声学模型(acoustical model)的训练，一个是语言模型(language model)的训练，最后就是对给定一段语音的解码了，当然，咱们今天讨论的是第二部分，其他的就先丢到一边吧！(在这给大家打一打气，其实语言模型是这三个方面里最复杂的部分了，这部分搞懂之后，其
转载
2024-06-12 22:39:07
108阅读
# Java 实现 ngram 算法
## 一、整体流程
下面是实现 ngram 算法的整体步骤：
| 步骤 | 描述 |
| ---- | ---- |
| 1 | 读取文本数据 |
| 2 | 数据预处理，如去掉标点符号、转换为小写等 |
| 3 | 切分文本为 ngram |
| 4 | 统计 ngram 出现的频次 |
| 5 | 输出结果 |
## 二、具体步骤及代码
##
原创
2024-02-25 05:59:39
127阅读
原理N-gram 是基于一个假设，即第n个词出现与前n-1个词有关，而与其他任何词不相关（隐马尔可夫当中的假设）。整个句子出现的概率变成了各个词出现的概率乘积。各个词可以通过语料库统计计算得到。假设句子T是由序词序列w1、w2…wn组成，用公式N-gram语言模型如下： P(T)=P(w1)*p(w2)p(w3)……*p(wn)=p(w1)*p(w2|w1)p(w3|w1w2)……*p(wn|w1
词集与词袋模型算法的主要作用也就是对文本做单词切分，有点从一篇文章里提取关键词这种意思，旨在用向量来描述文本的主要内容，其中包含了词集与词袋两种。词集模型 DictVectorizer：单词构成的集合，集合中每个元素只有一个，即词集中的每个单词都只有一个。词袋模型 CountVectorizer：在词集的基础上加入了频率这个维度，即统计单词在文档中出现的次数（令牌化和出现频数统计），通常我们在应用
# NGram 在 Java 中的应用
NGram 是一种在自然语言处理中常用的技术，用于提取文本中的 n 元语法信息。在 Java 程序中，我们可以利用 NGram 技术来分析文本数据，从中提取有用的信息。本文将介绍如何在 Java 中使用 NGram 技术，并提供相应的代码示例。
## 什么是 NGram
NGram 是一种统计语言模型，用于分析文本中的 n 个连续单词或字符序列。通过分
原创
2024-02-25 03:20:58
98阅读
最小生成树是数据结构中图的一种重要应用，它的要求是从一个带权无向完全图中选择n－1条边并使这个图仍然连通（也即得到了一棵生成树）,同时还要考虑使树的权最小。 为了得到最小生成树，人们设计了很多算法，最著名的有prim算法和kruskal算法（见上一篇博客）。算法描述：假设V是图中顶点的集合，E是图中边的集合，TE为最小生成树中的边的集合，则prim算法通过以下步骤可以得
转载
2023-10-09 08:06:44
79阅读
b错误，非静态方法可以直接调用静态方法 d错误，静态方法可以不实例化类，所以不能使用this本题考查的是子类调用父类的成员。Super关键字代表父类的引用，可以调用父类的内容，这里大家要区分this关键字 本题考查的是接口的定义。public和abstract关键字可以修饰类和接口，final可以修饰类但不能修饰接口，void是
网络通信基础概念网络通讯的三要素：IP地址端口号传输协议下面通过一张图来描述下，三者之间的关系和作用： 网络模型：计算机网络是指由通信线路互相连接的许多自主工作的计算机构成的集合体，各个部件之间以何种规则进行通信，就是网络模型研究的问题。网络模型一般是指 OSI 七层参考模型和 TCP/IP 四层参考模型。这两个模型在网络中应用最为广泛。网络模型分为 OSI 模型和 TCP/IP 模型，
转载
2024-09-24 16:06:50
16阅读
SQL的特点：是一个综合的、功能极强并且简洁容易学的语言。SQL的功能：数据查询、数据操纵、数据定义、数据控制。数据库系统的主要功能是通过数据库支持的数据语言来实现。菲关系模型（层次模型、网状模型）的数据语言分为： DDL：数据定义语言（用来维护存储数据的结构，例如：数据库、表等）。  
# N-gram 算法简介及 Java 实现
## 一、什么是 N-gram 算法？
N-gram 算法是一种基于概率的文本分析方法，广泛应用于自然语言处理、文本挖掘和信息检索等领域。N-gram 是指连续的 N 个元素的序列，其中 N 可以是任意的正整数。根据 N 的不同，N-gram 可以细分为以下几种类型：
- **Unigram（1-gram）**：单个元素（词）。
- **Bigr
## Java 实现大语言模型
大语言模型（LLM）是一种基于深度学习的自然语言处理技术，旨在理解和生成自然语言文本。虽然目前许多大语言模型如GPT-3等是用Python构建的，但我们也可以使用Java来实现一个简化的文本生成模型。本文将介绍如何使用Java实现一个简单的大语言模型，并通过流程图和状态图展示各个步骤的逻辑。
### 简单的大语言模型
我们将实现一个基于词频的文本生成模型。这个
原创
2024-09-17 04:40:04
188阅读
1、Java语言的运行机制 首先，我们介绍一下什么是计算机语言。对于计算机来说，真正能够直接执行的是所谓的"计算机指令"。这种计算机指令，一方面跟着操作系统有关，也就是说，Windows系统和Linux系统下的指令不同。另一方面说，也跟计算机的硬件有关系，不同的CPU具有不同的指令集。 直接操作计算机指令，使用的是计算机语言以及汇编语言。然而，对于程序员来说，直接使用汇编语言来编写程序进行开发
转载
2023-09-26 16:45:06
79阅读
# 使用Java实现自然语言模型的基础步骤
近年来，自然语言处理（NLP）在许多应用中扮演着越来越重要的角色，如聊天机器人、文本分析和情感识别等。本文将指导你如何在Java中实现一个简单的自然语言模型。我们将通过以下步骤实现：
## 步骤流程概述
| 步骤 | 描述 |
|------|---------------------
“来一首周杰伦的”，如果n=3：_来一，来一首，一首周，首周杰，周杰伦，杰伦的，伦的_ 这句话分成了7份，分别进入textcnn，再取mean或max， 因为是3-gram，所以这些可以提前算好，为inference阶段提速。
原创
2022-07-19 12:02:29
86阅读
