1 实验环境部署1.1 主机环境 处理器 Intel(R) Core(TM)2 Duo CPU 2.80GHz内存 8.00GB操作系统 WIN7SP1 64bit1.2虚拟机环境VMware® Workstation 10.0.2 build-1744117处
转载
2023-12-15 15:38:31
140阅读
引用:Core Concepts — gensim<<自然语言处理入门>>一、简介 文本聚类( text
clustering
，也称文档聚类或
document
clustering
)指的是对文档进行的聚类分
析，被广泛用于文本挖掘和信息检索
由于工作需要，使用了聚类方法在文本语料中挖掘类别信息，下面是一个demo，供大家参考。实验数据由于公司原因不便公开。实验步骤：1、 排序去重，经过排序去重后数据从10万条变为3万条。 2、 结巴分词。 3、 特征提取，使用平滑后的tf-idf作为特征，为每个用户问题构建特征向量，采用了scikit-learn 中的类 TfidfVectorizer。 4、 采用了两种聚类方法K-means 。 K
转载
2023-12-10 16:30:26
178阅读
iris：# -*- coding: utf-8 -*-
# K-means with TensorFlow
#----------------------------------
#
# This script shows how to do k-means with TensorFlow
import numpy as np
import matplotlib.pyplot as
原创
2023-05-31 10:39:48
71阅读
k-means算法又称k均值，顾名思义就是通过多次求均值而实现的聚类算法。是一种无监督的机器学习方法，即无需知道所要搜寻的目标，而是直接通过算法来得到数据的共同特征。其具体算法思想如下图所示： 1、首先在图中随机选取3个点2、然后把距离这三个点最近的其他点归为一类3、取当前类的所有点的均值，作为中心点4、更新距离中心点最近的点5、再次计算被分类点的均值作为新的中心点6、再次更新距离中心点
转载
2024-06-03 12:45:22
18阅读
聚类算法相关：聚类算法（一）——DBSCAN聚类算法（二）—— 优缺点对比聚类算法（三）—— 评测方法1聚类算法（三）—— 评测方法2聚类算法（三）—— 评测方法3(代码）聚类算法（四）—— 基于词语相似度的聚类算法（含代码）聚类算法（五）——层次聚类 linkage （含代码）聚类算法（六）——谱聚类 （含代码） 写了那么多聚类文章，没写Kmeans感觉不太厚道， 
转载
2024-01-17 10:06:41
96阅读
一、概述 文本聚类是聚类在文本上的应用，即在不需要标注语料的情况下，在文档层级上，用无监督方法自动找出文档与文档间的关联。 1.1 聚类 它是指将给定对象的集合划分为不同子集的过程，目标是使得每个子集内部的元素尽量相似，不同子集间的元素尽量不
转载
2023-11-07 08:47:54
111阅读
头文件：#ifndef _Preprocess_H
#define _Preprocess_H
#include<iostream>
#include<map>
#include<set>
#include<vector>
#include<string>
#include<iomanip>
#include<fstr
转载
2023-07-19 13:50:57
60阅读
话题模型topic model是自然语言处理领域里面热门的一个技术，可以用来做很多的事情，例如相似度比较，关键词提取，分类，还有就是具体产品业务上的事了，总之可以干很多的事情。今天不会讲LDA模型的很多细节和原理，没有满屏的数学公式，只讲一讲LDA模型是个什么东西，简单的原理，用什么技术实现的LDA，以及LDA能做什么开发和LDA在实现中的一些问题。什么是主题对于一篇新闻报道，看到里面讲了昨天NB
转载
2024-08-28 20:22:54
56阅读
何为聚类简单理解，如果一个数据集合包含N个实例，根据某种准则可以将这N个实例划分为m个类别，每个类别中的实例都是相关的，而不同类别之间是区别的也就是不相关的，这个过程就叫聚类了。聚类过程1）特征选择(feature selection)：就像其他分类任务一样，特征往往是一切活动的基础，如何选取特征来尽可能的表达需要分类的信息是一个重要问题。表达性强的特征将很影响聚类效果。这点在以后的实验中我会展示
转载
2023-09-16 11:20:44
147阅读
文本聚类2
聚类是对数据对象进行划分的一种过程，与分类不同的是，它所划分的类是未知的，故此，这是一个“无指导的学习”（unsupervised learning）过程，即聚类算法不需要“教师”的指导，不需要提供训练数据，它倾向于数据的自然划分。 文本聚类（Text clustering）:&nb
转载
2024-08-24 20:19:07
59阅读
输入分析： mahout下处理的文件必须是SequenceFile格式的，所以需要把txtfile转换成sequenceFile，而聚类必须是向量格式的，mahout提供下面两个命令来将文本转成向量形式 1.mahout seqdirectory：将文本文件转成SequenceFile文件，SequenceFile文件是一种二制制存储的key-value键值对,http://www.dongtai
转载
2023-12-28 15:53:32
38阅读
文本聚类正所谓人以类聚，物以群分。人类获取并积累信息时常常需要整理数据，将相似的数据归档到一起。许多数据分析需求都归结为自动发现大量样本之间的相似性，并将其划分为不同的小组，这种根据相似性归档的任务称为聚类。基本概念聚类(cluster analysis)指的是将给定对象的集合划分为不同子集的过程，目标是使得每个子集内部的元素尽量相似，不同子集间的元素尽量不相似。这些子集又被称为簇(cluster
转载
2023-08-11 11:50:51
175阅读
python 文本聚类分析案例说明摘要1、结巴分词2、去除停用词3、生成tfidf矩阵4、K-means聚类5、获取主题词 / 主题词团 说明实验要求：对若干条文本进行聚类分析，最终得到几个主题词团。实验思路：将数据进行预处理之后，先进行结巴分词、去除停用词，然后把文档生成tfidf矩阵，再通过K-means聚类，最后得到几个类的主题词。实验说明：如何用爬虫获取数据可以参考其他博客，这里我们直接
转载
2023-08-23 15:14:23
313阅读
文本聚类算法介绍分类和聚类都是文本挖掘中常使用的方法，他们的目的都是将相似度高的对象归类，不同点在于分类是采用监督学习，分类算法按照已经定义好的类别来识别一篇文本，而聚类是将若干文本进行相似度比较，最后将相似度高的归为一类。在分类算法中，训练集为已经标注好的数据集，但是微博文本具有的大数据特性及不确定性决定了标注数据的难度，因此本文选择聚类算法对大量且随机的微博文本进行处理。大量文本建模后还需要对
转载
2024-07-05 21:18:26
54阅读
随着互联网的迅猛发展，信息的爆炸式增加，信息超载问题变的越来越严重，信息的更新率也越来越高，用户在信息海洋里查找信息就像大海捞针一样。搜索引擎服务应运而生，在一定程度上满足了用户查找信息的需要。然而互联网的深入发展和搜索引擎日趋庞大，进一步凸现出海量信息和人们获取所需信息能力的矛盾。那么，如何从中获取特定内容的信息和知识成为摆在人们面前的一道难题。面对互联网时代庞杂无序的海量信息，智能高效地处
转载
2023-11-24 16:13:34
78阅读
# Java文本聚类入门指南
在大数据时代，文本数据的处理成为了数据分析的重要任务。文本聚类是自然语言处理中的一种常见方法，可以将相似的文本分组，从而使数据分析更加高效。这篇文章将介绍文本聚类的基本概念，并提供一个简单的Java实现示例。
## 文本聚类简介
文本聚类是将文本数据按相似性分组的过程。用户可以通过聚类算法识别数据中的潜在模式。常见的聚类算法包括 K-means、层次聚类和 DB
原创
2024-10-09 05:30:33
52阅读
# 使用 PyTorch 进行文本聚类
文本聚类是一种无监督学习任务，用于将相似的文本自动组合到一起。在许多应用中，如文档分类、社交媒体监控以及内容推荐，文本聚类都发挥着至关重要的作用。随着深度学习技术的发展，PyTorch 作为一种灵活且强大的深度学习框架，越来越多地被应用于文本聚类任务。本文将介绍基于 PyTorch 的文本聚类实现方法，并提供代码示例。
## 文本聚类的基本原理
文本聚
源代码下载：TDIDF_Demo.rar
声明：本文代码思路完全来自蛙蛙池塘的博客，只为技术交流用途，无其他目的 昨天有幸拜读了蛙蛙池塘的《蛙蛙推荐：蛙蛙教你文本聚类》这篇文章，受益匪浅，于是今天就动手尝试照着他的C#代码，用C++和STL标准
# NLP文本聚类入门指南
在数据科学的领域，文本聚类是一个十分重要的任务，它可以帮助我们对大量文本进行归类，从而更好地理解和分析数据。在这篇文章中，我们将一步步走过实现NLP文本聚类的过程，内容包括流程概述、每一步的代码实现以及相关注释。
## 流程概述
下面是实现NLP文本聚类的基本步骤概述：
| 步骤 | 描述
原创
2024-09-23 06:14:27
17阅读
