场景分析：同样作为线性降维算法，PAC是非监督的降维方法，而LDA线性判别分析是有监督的降维算法。问题解答：首先将线性判别分析LDA扩展到高维的情况。假设有n个类别，并需要将特征降维至d维，因此我们需要找到以恶搞d维的投影超平面，使得投影后的样本满足线性判别分析LDA的目标，最大化类间距离和最小化类内距离。推导过程暂时省略。。。。。。 从主成分分析PAC和线性判别分析LDA两
转载
2024-09-27 14:56:11
55阅读
1.PCA主成分分析PCA是不考虑样本类别输出的无监督降维技术，实现的是高维数据映射到低维的降维。PCA原理这个介绍的不错：线性代数矩阵性质背景：特征值表示的是矩阵在特征值对应的特征向量方向上的伸缩大小；步骤：1）组成数据矩阵def get_date():
m_vec = np.array([0, 0, 0])
cov_vec = np.array([[1, 0, 0], [0,
转载
2024-05-20 10:44:14
0阅读
若数据集特征十分庞大，可能会使计算任务变得繁重，在数据特征有问题时，可能会对结果造成不利影响。 因此可以用降维算法，通过某种映射方法，将原始高维空间中的数据点映射到低纬度的空间中。这里介绍LDA（有监督学习算法）。线性判别分析（Linear Discriminant Analysis,LDA），也叫作Fisher线性判别，最开始用于分类任务，但由于其对数据特征进行了降维投影，成为一种经典的降维方法
转载
2024-04-24 13:35:33
67阅读
目录例子LDA降维在前几篇的文章中，大管提到了PCA降维，有小伙伴私信说在实际情况中，效果不太好。那大管今天就和大家聊一聊另一种降维的方法线性判别分析 (LDA)。它目前也是机器学习领域中比较经典而且又热门的一种算法。 还记得在PCA中是怎样做的吗？简单来说，是将数据映射到方差比较大的方向上，最后用数学公式推导出矩阵的前TopN的特征向量，这里的方差可以理解为
转载
2024-02-21 16:20:43
85阅读
机器学习领域中所谓的降维就是指采用某种映射方法，将原高维空间中的数据点映射到低维度的空间中从而去降低后续算法的计算量。降维的本质是学习一个映射函数 f : x->y，其中x是原始数据点的表达，目前最多使用向量表达形式。 y是数据点映射后的低维向量表达，通常y的维度小于x的维度（当然提高维度也是可以
转载
2024-10-12 19:26:38
52阅读
在现实应用中，许多学习方法都涉及距离计算，而高维空间会给距离计算带来很大的麻烦。例如当维数很高时，甚至连计算内积都很不容易。 这实际上，是所有机器学习都面临的严重障碍，这被称为“维数灾难（即样本非常洗漱，距离计算很困难）”。而缓解维数灾难的两个普遍做法是降维和特征选择。降维指的是：通过某种数学变换将原始高维属性空间转变为一个低维子空间，在这个低维的子空间中，样本密度大幅度提高，距离计算也变得很容
转载
2024-05-12 17:34:56
36阅读
原理： 线性判别分析（Linear Discriminant Analysis，简称LDA）是一种经典的监督学习的数据降维方法，也叫做Fisher线性判别（Fisher Linear Discriminant，FLD），是模式识别的经典算法 ，它是在1996年由Belhumeur引入模式识别
一、数据降维了解1.1、数据降维原理：机器学习领域中所谓的降维就是指采用某种映射方法，将原高维空间中的数据点映射到低维度的空间中。降维的本质是学习一个映射函数 f : x->y，其中x是原始数据点的表达，目前最多使用向量表达形式。 y是数据点映射后的低维向量表达，通常y的维度小于x的维度（当然提高维度也是可以的）。f可能是显式的或隐式的、线性的或非线性的；1.2、不进行数据降维的可能的影响：
转载
2023-06-16 14:30:26
204阅读
局部线性嵌入 （Locally linear embedding）是一种非线性降维算法，它能够使降维后的数据较好地保持原有 流形结构 。LLE可以说是流形学习方法最经典的工作之一。很多后续的流形学习、降维方法都与LLE有密切联系。 如下图，使用LLE将三维数据（b）映射到二维（c）之后，映射后
转载
2023-07-20 23:42:05
228阅读
1.简介 在另一篇文章中讲了利用PCA对图片数据进行降维，这次介绍一下另一种降维方法——LDA(Linear Discriminant Analysis)，即线性判别分析。跟PCA不同，LDA是一种supervised的降维方法。即我们对数据降维时需要数据的label。 LDA的原理是要找到一个投影面，使得投影后相
转载
2024-06-23 06:49:29
111阅读
文章目录线性判别分析（LDA）LDA思想总结图解LDA核心思想二类LDA算法原理LDA算法流程总结LDA和PCA区别LDA优缺点主成分分析（PCA）主成分分析（PCA）思想总结图解PCA核心思想PCA算法推理PCA算法流程总结PCA算法主要优缺点降维的必要性及目的KPCA与PCA的区别 线性判别分析（LDA）LDA思想总结 线性判别分析（Linear Discriminant Analysis，
转载
2024-05-24 21:00:21
71阅读
线性判别分析
LDA原理总结</h1>
<div class="clear"></div>
<div class="postBody"> 在主成分分析（PCA）原理总结中，我们对
降维算法PCA做了总结。这里我们就对另外一种经典的
降维方法线性判别分析（Linear Discriminant Analysis, 以
转载
2023-10-04 23:06:51
104阅读
1.降维原理的概述由于特征数据过于庞大，需要对数据进行降维处理，即通过某种映射方法将原始高维空间中的数据点映射到低维度的空间中（减少特征的个数），比较经典的是LDA线性判别分析（Linear Discriminant Analysis）和PCA主成分分析。LDA线性判别分析也叫作Fisher 线性判别（FLD）(有监督问题)，最初用于机器学习的分类任务，更多用于降维。降维不仅要压缩数据
转载
2024-05-09 22:18:18
68阅读
1.什么是LDA？LDA线性判别分析也是一种经典的降维方法，LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的。这点和PCA不同。PCA是不考虑样本类别输出的无监督降维技术。LDA的思想可以用一句话概括，就是“*投影后类内方差最小，类间方差最大*”。什么意思呢？ 我们要将数据在低维度上进行投影，投影后希望每一种类别数据的投影点尽可能的接近，而不同类别的数据的类别中心之间的距
转载
2023-05-18 15:32:20
244阅读
点赞
为什么要用LDA前面的博客提到PCA是常用的有效的数据降维的方法，与之相同的是LDA也是一种将数据降维的方法。PCA已经是一种表现很好的数据降维的方法，那为什么还要有LDA呢？下面我们就来回答这个问题？ PCA是一种无监督的数据降维方法，与之不同的是LDA是一种有监督的数据降维方法。我们知道即使在训练样本上，我们提供了类别标签，在使用PCA模型的时候，我们是不利用类别标签的，而LDA在
转载
2023-10-26 22:01:38
82阅读
特征降维方法包括：Lasso，PCA，小波分析，LDA(Linear Discriminant Analysis线性判别分析)，LDA(Latent Dirichlet Allocation潜在狄利克雷分配)，奇异值分解SVD，拉普拉斯特征映射，深度学习SparseAutoEncoder，局部线性嵌入LLE，等距映射Isomap，word2vec。1. LASSO通过参数缩减达到降维的目的。LAS
转载
2024-05-09 12:41:25
53阅读
前面写的PCA，LE，LDA，LLE都是以前就比较熟悉的东西，从这篇开始写的都是之前不熟悉的甚至都不知道名字的算法，然而都还很经典。疫情期间在家里看看原文，学习学习，既是算法总结又是读论文笔记。这篇来写LTSA局部切空间排列。本篇符号尽量与原文保持一致，与前面几篇有所不同。主要思路LTSA（Local Tangent Space Alignment）的基本思路是用样本点的近邻区域的切空间来表示局部
转载
2024-05-22 19:23:55
240阅读
本周关于降维的学习主要分为五类：PCA、LDA、LLE、tSNE、ISOMAP 来进行学习 首先自己的任务是：tSNE的学习 （一）降维的基本知识点总结 1、降维方法分为线性和非线性降维，非线性降维又分为基于核函数和基于特征值的方法。 （1）线性降维：PCA、ICA、LDA、LFA、LPP （2）非线性降维方法：①基于核函数的方法：KPCA、KICA、KDA ②基于特征值的方法：IS
转载
2024-04-08 08:25:43
101阅读
数据降维就是一种对高维度特征数据预处理方法。降维是将高维度的数据保留下最重要的一些特征，去除噪声和不重要的特征，从而实现提升数据处理速度的目的。PCA算法有两种实现方法：
基于特征值分解协方差矩阵实现PCA算法基于SVD分解协方差矩阵实现PCA算法from sklearn.decomposition import PCA
pca = PCA(n_components= 2)
X_pc
最近在学习的过程当中，经常遇到PCA降维，于是就学习了PCA降维的原理，并用网上下载的iris.txt数据集进行PCA降维的实践。为了方便以后翻阅，特此记录下来。本文首先将介绍PCA降维的原理，然后进入实战，编写程序对iris.数据集进行降维。一、为什么要进行数据降维？ 在数据处理中，经常会遇到特征维度比样本数量多得多的情况，如果直接放到机器学习
