1.主成分分析（Principal components analysis，以下简称PCA）是最重要的降维方法之一。在数据压缩消除冗余和数据噪音消除等领域都有广泛的应用。一般我们提到降维最容易想到的算法就是PCA，目标是基于方差提取最有价值的信息，属于无监督问题。但是降维后的数据因为经过多次矩阵的变化我们不知道降维后的数据意义，但是更加注重降维后的数据结果。2.向量的表示及基的变换（基：数据的衡
转载
2024-07-06 09:10:43
210阅读
本文包括两部分，使用python实现PCA代码及使用sklearn库实现PCA降维，不涉及原理。总的来说，对n维的数据进行PCA降维达到k维就是：对原始数据减均值进行归一化处理；求协方差矩阵；求协方差矩阵的特征值和对应的特征向量；选取特征值最大的k个值对应的特征向量；经过预处理后的数据乘以选择的特征向量，获得降维结果。 实验数据数据data.txt使用[2]中编写的数据，以下是部分数据截
转载
2023-08-10 11:37:47
229阅读
在高维情形下出现的数据样本稀疏、距离计算困难等问题，是所有机器学习方法共同面临得到严重障碍，被称为“维数灾难”。缓解维数灾难的一个重要途径是降维。也称“维数约简”，即通过某种数学变换将原始高维属性空间转变为一个低维子空间，在这个子空间中样本密度大幅度提高，距离计算也变得更为容易。 对降维效果的评估，通常是比较降维前后学习器的性能，若性能有所提高则认为降维起到了作用。若将维数降至二维或三维，则
转载
2023-12-12 13:01:08
77阅读
文章目录第12章：降维12.1 主成分分析（PCA）12.2 主成分分析的算法12.3 低维空间维度的选择12.4 应用PCA的建议 第12章：降维12.1 主成分分析（PCA）数据的特征数量，又称为向量的维度。降维（dimensionality reduction）是通过一些方法，减少数据的特征数量，以降低维度，通常采用主成分分析PCA（Principal Component Analysis
转载
2023-11-25 13:59:36
212阅读
sklearn中的降维算法1. PCA与SVD sklearn中降维算法都被包括在模块decomposition中，这个模块本质是一个矩阵分解模块。在过去的十年中，如果要讨论算法进步的先锋，矩阵分解可以说是独树一帜。矩阵分解可以用在降维，深度学习，聚类分析，数据预处理，低纬度特征学习，推荐系统，大数据分析等领域。在2006年，Netflix曾经举办了一个奖金为100万美元的推荐系统算
转载
2024-01-08 14:23:47
59阅读
数据降维：定义：特征的数量减少特征选择：原因：1、冗余部分特征相关性高，容易消耗计算机性能2、噪声：部分特征对预测结果有负影响工具：1、Filter（过滤式）：VarianceThreshold （sklearn.feature_selection.VarianceThreshold）2、Embedded（嵌入式）：正则化、决策树3、Wrapper（包裹式）方差大小来考虑P
转载
2023-08-31 15:36:19
102阅读
作者: 郗晓琴 熊泽伟今天这篇文章是介绍目前前沿好用的一种降维可视化算法：t-SNE,并且附带python的实际例子加以讲解。t-SNE是什么技术我们直接开门见山好了，第一件事：什么是t-SNE？t-SNE的全称叫做t分布式随机邻居嵌入（t-SNE）。该算法是一种非监督的非线性技术，主要用于数据探索和可视化高维数据。简而言之，t-SNE为我们提供了数据
转载
2023-08-09 19:41:45
193阅读
网上关于各种降维算法的资料参差不齐，同时大部分不提供源代码。这里有个 GitHub 项目整理了使用 Python 实现了 11 种经典的数据抽取(数据降维)算法，包括：PCA、LDA、MDS、LLE、TSNE 等，并附有相关资料、展示效果;非常适合机器学习初学者和刚刚入坑数据挖掘的小伙伴。所谓降维，即用一组个数为 d 的向量 Zi 来代表个数为 D 的向量 Xi 所包含的有用信息，其中 d<
转载
2023-08-15 17:18:52
128阅读
Python中T-SNE实现降维 from sklearn.manifold import TSNE
from sklearn.datasets import load_iris
from sklearn.decomposition import PCA
import matplotlib.pyplot as plt
iris = load_iris()
X_tsne = TSNE(
转载
2023-05-30 19:50:27
103阅读
1 基于特征选择的降维特征选择是在数据建模过程最常用的特征降维手段，简单粗暴，即映射函数直接将不重要的特征删除，不过这样会造成特征信息的丢失，不利于模型的精度。由于数据的Fenix以抓住主要影响因素为主，变量越少越有利于分析，因此特征选择常用于统计分析模型中。1.1特征选择的方法过滤法(Filter)：按照发散性或者相关性对各个特征进行评分，通过设定阈值或者待选择阈值的个数来选择特征。包装法(Wr
转载
2023-11-13 23:27:06
86阅读
数据降维概述1.数据降维概述所谓的数据降维就是指采用某种映射方法，将原高维空间中的数据点映射到低维度的空间中，可以解决大规模特征下的数据显示问题，使得数据集更易使用，降低后续算法的计算，消除噪声影响并使得结果更易理解。 数据降维的方法有很多，可从线性或非线性角度对其简单分类。 线性降维是指通过降维所得到的低维数据能保持高维数据点之间的线性关系，主要包括主成分分析(Principal Compone
转载
2024-02-23 10:22:44
38阅读
降维算法简介很多算法可以回归也可以分类降维算法PCA降维（主成分分析）LDA降维（线性判别分析）MDS降维（多维标度法）流形学习Isomap 简介很多算法可以回归也可以分类把连续值变为离散值：1.回归模型可以做分类：可以依据阀值（二元分类或多元分类）来分类2.逻辑回归二元分类，一个阀值。3.连续值进行分箱，实现多元分类4.把离散值变为连续值：插值法（1~2，在离散值之间插入足够密集的值）降维算法
转载
2023-09-19 07:01:06
165阅读
深度学习巨头之一的Hinton大神在数据降维领域有一篇经典论文Visualizing Data using t-SNE。该方法是流形（非线性）数据降维的经典，从发表至今鲜有新的降维方法能全面超越。该方法相比PCA等线性方法能有效将数据投影到低维空间并保持严格的分割界面；缺点是计算复杂度大，一般推荐先线性降维然后再用tSNE降维。python sklearn有相应的实现。我现在用Tensorflow
转载
2023-12-13 16:50:35
41阅读
主成分分析(Principal Component Analysis)Step 1:去相关(Decorrelation)Step 2: 降维(Reduce Dimension)数据是文本时Step 1:去相关(Decorrelation) 旋转数据样本，使它们与坐标轴对齐，并且样本均值变为0。##########################
转载
2023-06-21 21:04:08
216阅读
使用sklearn库初次尝试PCA和T-SNE，原理还不太理解，写错了请一定指出，或者等我自己发现hhhh1. PCA首先读入sklearn里自带的鸢尾花数据库，并调用相关的包，再查看一下这些数据都是些啥：import matplotlib.pyplot as plt
from sklearn.decomposition import PCA
from sklearn.datasets impor
转载
2023-08-15 13:40:53
148阅读
注： 在《SVD(异值分解)小结 》中分享了SVD原理，但其中只是利用了numpy.linalg.svd函数应用了它，并没有提到如何自己编写代码实现它，在这里，我再分享一下如何自已写一个SVD函数。但是这里会利用到SVD的原理，如何大家还不明白它的原理，可以去看看《SVD(异值分解)小结 》，或者自行百度/google。1、SVD算法实现1.1 SVD原理简单回顾有一个\(m \times n\)
转载
2023-08-03 16:23:55
131阅读
目录主成分分析--PCA数据规约产生更小但保持数据完整性的新数据集。在规约后的数据集上进行数据分析和挖掘将更有效率。机器学习领域中所谓的降维就是指采用某种映射方法，将原高维空间中的数据点映射到低维度的空间中。降维的本质是学习一个映射函数 f : x->y，其中x是原始数据点的表达，目前最多使用向量表达形式。 y是数据点映射后的低维向量表达，通常y的维度小于x的维度（当然提高维度也是可以的）。
转载
2023-06-01 11:46:23
79阅读
# Python 主成分分析降维
## 介绍
在数据分析和机器学习中，我们常常面临高维数据的问题。高维数据不仅会导致计算复杂性增加，还可能引起"维度灾难"，使学习算法的性能下降。为了应对这一挑战，主成分分析（PCA）是一种常见的降维技术，它能够帮助我们提取数据中的主要特征并减少数据维度。
本文将介绍PCA的基本原理，以及如何使用Python进行主成分分析降维。我们将以一个具体示例来演示这一过
为什么要对数据进行降维？实际应用中的数据一般是高维的，比如手写的数字，如果我们缩放到28×28的图片大小，那么它的维度就是28×28=784维。举个简单的例子：下图是手写的1及其对应的图像二维矩阵，数据已经被规范化到[0,1]范围内。 降维的目的有很多，个人觉得最主要的目的有二：1.为了对数据进行可视化，以便对数据进行观察和探索。2.另外一个目的是简化机器学习模型的训练和预测。我们很难对高维数据具
转载
2023-11-04 23:06:49
141阅读
文章目录一、PCA有什么用？（对PCA的综合理解）二、PCA数学原理坐标轴旋转向量旋转三、PCA算法流程概述四、PCA算法的python实现1、numpy按步骤实现2、sklearn实现（方便应用）五、绘图 一、PCA有什么用？（对PCA的综合理解）PCA是数据降维的一种方法，其中的核心理论是矩阵的特征值和特征向量。特征向量和特征值的作用可以理解为将高维数据沿一个特定的方向拓展，使得不同记录的数
转载
2023-12-19 21:48:44
83阅读
