Word2vec是目前最常用的词嵌入模型之一。是一种浅层的神经网络模型，他有2种网络结构，分别是CBOW(continues bag of words)和 skip-gram。Word2vec 其实是对”上下文-单词“矩阵进行学习，其中上下文由周围的几个单词组成，由此得到的词向量表示 更多的融入了上下文共现的特征。 也就是说，如果2个词所对应的Word2vec向量相似度较高，那么他们很可能经常
转载
2024-07-25 13:13:48
105阅读
文章目录特征工程什么是特征工程数据预处理缺失值的处理删除法填补法Pandas填充Sklearn填充数据归一化什么是归一化归一化原理为什么要用归一化什么算法需要进行归一化sklearn库归一化处理归一化存在的问题数据标准化什么是标准化标准化原理为什么要用标准化sklearn库标准化处理标准化和归一化对比特征抽取字典特征数据提取文本特征数据提取TF-IDF 做比赛或者做项目的时候，绞尽脑汁考虑到了
转载
2024-06-19 09:01:52
56阅读
纯粹的文本我们也叫作语料 文本数据特点： 非结构化 海量数据 高维稀疏性 语义/情感一句话里面有多少个词就有多少个维度 文本的分析就是他所包含的语义 往往都存在一个倾向性自然语言处理-NLP 机器翻译 自动摘要（当我们在做舆情分析的时候，找到一个文章，能不能自动生成一个文本的摘要） 文本分类（根据文本的关键词进行文本的分类，在自然语言中有一个实体命名，时间，地点等） 信息检索（通过词相互之间的练习
简述LDA什么是LDA主题模型主题分布与词分布两点分布二项分布多项式分布参数估计极大似然估计贝叶斯估计共轭先验分布形式化LDA简述LDALDA涉及的知识很多，对于作者这样的菜鸟来说想要弄清楚LDA要费一番功夫，想简单说清更是不易，写下此文，也是希望在行文的过程中，把握LDA主要脉络，理顺思路。也希望我理解的方式与顺序，能帮到一部分初学的朋友。如果有不对的地方，也欢迎作出指正。什么是LDA主题模型首
转载
2024-02-11 15:04:41
59阅读
一、前言学习huggingface tokenizers 库。首先介绍三大类分词算法：词级、字符级、子词级算法；然后介绍五种常用的子词级（subword ）算法：BPE、BBPE、WordPiece、Unigram、SentencePiece。二、常用分词算法大类：词级、字符级、子词级词表通常在模型预训练语料库上训练而成，包括不同的分词方式，例如对 “Don’t you love ? Transf
转载
2024-08-09 17:41:54
135阅读
LDA算法简介：LDA是一种基于贝叶斯思想的无监督的聚类算法，广泛用于文本聚类，文本分析，文本关键词等场景。具体的，算法 的输入是一个文档的集合D={d1, d2, d3, ... , dn}，同时还需要主题Topic的类别数量m；然后会算法会将每一篇文档 di 在 所有Topic上的一个概率值p；这样每篇文档都会得到一个概率的集合di=(dp1，dp2，..., dpm), 表示文档di在m个t
转载
2024-03-19 17:09:32
163阅读
实验原理LDA（Linear Discriminant Analysis）线性判别分析是一种监督学习的线性分类算法，它可以将一个样本映射到一条直线上，从而实现对样本的分类。LDA的目标是找到一个投影轴，使得经过投影后的两类样本之间的距离最大，而同一类样本之间的距离最小。LDA的过程可以分为以下几步：1.计算每个类别的均值向量。2.计算类内散度矩阵（Within-class scatter matr
转载
2023-06-18 14:56:52
171阅读
主题建模是一种用于找出文档集合中抽象“主题”的统计模型。LDA（Latent Dirichlet Allocation）是主题模型的一个示例，用于将文档中的文本分类为特定的主题。LDA算法为每一个文档构建出一个主题，再为每一个主题添加一些单词，该算法按照Dirichlet分布来建模。那便开始吧！数据在这里将使用到的数据集是15年内发布的100多万条新闻标题的列表，可以从Kaggle下
转载
2023-10-08 06:56:55
134阅读
用机器学习构建一个好的文本分类器是一项很有挑战性的工作。你需要构造训练集、调参、校正模型及其他事情。本文将会描述如何使用MonkeyLearn训练一个文本分类器，具体分为如下5步：1. 定义类别树2. 数据收集3. 数据标记4. 训练分类器5. 测试&提升分类器1.定义类别树在训练文本分类器之前，首先要确定你要把你的文本数据分成哪些类或者打上哪些标
1、简介在机器学习领域，LDA是两个常用模型的简称：Linear Discriminant Analysis和Latent Dirichlet Allocation。本文的LDA是指Latent Dirichlet Allocation，它在主题模型中占有非常重要的地位，常用来文本分类。LDA由Blei, David M.、Ng, Andrew Y.、Jordan于2003年提出，用来推测文档的主
转载
2023-08-17 09:15:56
88阅读
这里写自定义目录标题一、 pLSA、共轭先验分布；LDA主题模型原理基本原理1.1LSA1.2pLSA1.3共轭先验分布1.4LDA1.5LDA生成过程二、 LDA应用场景三、LDA优缺点四、LDA 参数学习1.scikit-learn LDA主题模型概述2.scikit-learn LDA主题模型主要参数和方法五、使用LDA生成主题特征，在之前特征的基础上加入主题特征进行文本分类 一、 pLS
转载
2024-04-07 09:58:06
173阅读
目录：1、使用场景2、优缺点3、算法原理3.1、传统向量空间模型的缺陷3.2、Latent Semantic Analysis (Latent Semantic Indexing)3.3、算法实例4、文档相似度的计算5、对应的实践Demo 目录：1、使用场景文本挖掘中，主题模型。聚类算法关注于从样本特征的相似度方面将数据聚类。比如通过数据样本之间的欧式距离，曼哈顿距离的大小聚类等。而主题模型，顾
转载
2024-08-11 15:20:31
113阅读
目录线性判别分析（LDA）数据降维及案例实战一、LDA是什么二、计算散布矩阵三、线性判别式及特征选择四、样本数据降维投影五、完整代码结语线性判别分析（LDA）数据降维及案例实战一、LDA是什么LDA概念及与PCA区别LDA线性判别分析（Linear Discriminant Analysis）也是一种特征提取、数据压缩技术。在模型训练时候进行LDA数据处理可以提高计算效率以及避免过拟合。它是一种有
转载
2023-09-12 11:21:42
63阅读
近期须要用到分词，无聊写个算法。。。算法：给定一个字典和一句话，做分词。Target：输入词典，输出全部可能的分词结果思路：dfs加速：首先推断是不是这句话里全部的词在字典中都有（validate）// // Wordsplit.cpp // // Target: Find all possible
转载
2017-06-22 16:12:00
39阅读
2评论
1、LDAP的存储规则区分名（DN，Distinguished Name）和自然界中的树不同，文件系统/LDAP/电话号码簿目录的每一片枝叶都至少有一个独一无二的属性，这一属性可以帮助我们来区别这些枝叶。在文件系统中， 这些独一无二的属性就是带有完整路径的文件名。比如/etc/passwd，该文件名在该路径下是独一无二的。当然我们可以有/usr/passwd, /opt/passwd，但是根据它们
转载
2024-05-13 11:18:45
30阅读
今天开始，复习一下 LDA ，记录一些 LDA 的关键步骤，为写好论文做铺垫。第一节的主题是共轭分布，回忆贝叶斯公式：\[p(\theta|X) = \frac{p(\theta) \cdot p(X|\theta) }{p(X)} \Leftrightarrow \mathbf{ posterior = \frac{prior \cdot likelihood}{evidence}}
结果文件包括：model-final.twordsmodel-final.othersmodel-final.phimodel-final.tassignmodel-final.thetawordmap.txtok，我们逐一看各个文件的含义：1.wordmap.txt最简单，即训练文本的词频统计，很好理解： 一一列举 1164
一上午 3572
一下子 1934
一两个 2843
一
机器学习(8) -- 降维核心思想：将数据沿方差最大方向投影，数据更易于区分简而言之：PCA算法其表现形式是降维，同时也是一种特征融合算法。对于正交属性空间(对2维空间即为直角坐标系)中的样本点，如何用一个超平面(直线/平面的高维推广)对所有样本进行恰当的表达？事实上，若存在这样的超平面，那么它大概应具有这样的性质：最近重构性 : 样本点到这个超平面的距离都足够近；最大可分性：样本点在这
转载
2024-09-09 17:54:39
103阅读
Hello 大家好，我是一名新来的金融领域打工人，日常分享一些python知识，都是自己在学习生活中遇到的一些问题，分享给大家，希望对大家有一定的帮助！让机器帮助我们在海量的文本中快速找到关键信息，这种技术称为——话题建模(topic modeling)。话题建模的方法有许多种，潜在语义索引(LSI)，概率潜在语义分析(pLSA)，潜狄利克雷分布(LDA)等等方法。在我们进行话题建模之前先准备好一
转载
2023-10-03 07:25:31
77阅读
中科院计算所ICTCLAS 5.0ICTCLAS的含义是:Institute of Computing Technology, Chinese Lexical Analysis System(中科院)计算技术研究所,中文词法分析系统 主要功能包括:中文分词；词性标注；命名实体识别；新词识别；同时支持用户词典。 ICTCLAS采用了层叠隐马尔可夫模型（Hierarchica
