最近项目中需要进行PCA降维,环境是MATLAB,但是在网上找了很多都是介绍PCA原理的,的确介绍的很仔细,但是我是一个工科狗,只是想最快查到用代码实现降维的方法而已,网上的对我来说太多了,因此在此做一个总结,出于对知识的 尊重,插两篇介绍的不错的PCA 原理文章,只是想实现pCA的大可不必看.下面开始介绍用MATLAB自带工具包函数pca(对应老版本函数princomp,在maltab里help
1.简介 在另一篇文章中讲了利用PCA对图片数据进行降维，这次介绍一下另一种降维方法——LDA(Linear Discriminant Analysis)，即线性判别分析。跟PCA不同，LDA是一种supervised的降维方法。即我们对数据降维时需要数据的label。 LDA的原理是要找到一个投影面，使得投影后相
转载
2024-06-23 06:49:29
111阅读
1.降维原理的概述由于特征数据过于庞大，需要对数据进行降维处理，即通过某种映射方法将原始高维空间中的数据点映射到低维度的空间中（减少特征的个数），比较经典的是LDA线性判别分析（Linear Discriminant Analysis）和PCA主成分分析。LDA线性判别分析也叫作Fisher 线性判别（FLD）(有监督问题)，最初用于机器学习的分类任务，更多用于降维。降维不仅要压缩数据
转载
2024-05-09 22:18:18
68阅读
1.什么是LDA？LDA线性判别分析也是一种经典的降维方法，LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的。这点和PCA不同。PCA是不考虑样本类别输出的无监督降维技术。LDA的思想可以用一句话概括，就是“*投影后类内方差最小，类间方差最大*”。什么意思呢？ 我们要将数据在低维度上进行投影，投影后希望每一种类别数据的投影点尽可能的接近，而不同类别的数据的类别中心之间的距
转载
2023-05-18 15:32:20
244阅读
点赞
目录例子LDA降维在前几篇的文章中，大管提到了PCA降维，有小伙伴私信说在实际情况中，效果不太好。那大管今天就和大家聊一聊另一种降维的方法线性判别分析 (LDA)。它目前也是机器学习领域中比较经典而且又热门的一种算法。 还记得在PCA中是怎样做的吗？简单来说，是将数据映射到方差比较大的方向上，最后用数学公式推导出矩阵的前TopN的特征向量，这里的方差可以理解为
转载
2024-02-21 16:20:43
85阅读
最近在学习的过程当中，经常遇到PCA降维，于是就学习了PCA降维的原理，并用网上下载的iris.txt数据集进行PCA降维的实践。为了方便以后翻阅，特此记录下来。本文首先将介绍PCA降维的原理，然后进入实战，编写程序对iris.数据集进行降维。一、为什么要进行数据降维？ 在数据处理中，经常会遇到特征维度比样本数量多得多的情况，如果直接放到机器学习
文章目录线性判别分析（LDA）LDA思想总结图解LDA核心思想二类LDA算法原理LDA算法流程总结LDA和PCA区别LDA优缺点主成分分析（PCA）主成分分析（PCA）思想总结图解PCA核心思想PCA算法推理PCA算法流程总结PCA算法主要优缺点降维的必要性及目的KPCA与PCA的区别 线性判别分析（LDA）LDA思想总结 线性判别分析（Linear Discriminant Analysis，
转载
2024-05-24 21:00:21
71阅读
转载：介绍LDA，即线性判别分析（linear discriminant analysi），当然在NLP中，这个简写也常被认为是Latent Dirichlet allocation。LDA是一种常用的有监督降维手段，与之相对应的是PCA（无监督降维）。为什么要用LDA前面的博客提到PCA是常用的有效的数据降维的方法，与之相同的是LDA也是一种将数据降维的方法。PCA已经是一种表现很好的数据降维的
转载
2024-04-18 16:25:59
70阅读
说明：实际上EVD(特征分解)是SVD的一种特殊情况；逆是伪逆的特殊情况？，这在最小二乘当中有应用。在“8点法”求解本质矩阵当中会有SVD分解，在3D到3D空间转换中，算法icp有SVD解法。SVD作为一种分解矩阵的方法，有着广泛应用。一、特征分解(手写word截图)1 %%Matlab验证代码2 a=[1 2 3;2 1 3;3 3 6]3 [x,y]=eig(a) %%x矩阵每一列代表 lam
转载
2024-05-06 19:42:43
147阅读
线性判别分析
LDA原理总结</h1>
<div class="clear"></div>
<div class="postBody"> 在主成分分析（PCA）原理总结中，我们对
降维算法PCA做了总结。这里我们就对另外一种经典的
降维方法线性判别分析（Linear Discriminant Analysis, 以
转载
2023-10-04 23:06:51
104阅读
LDA实验报告实验概述LDA，线性判别式分析（Linear Discriminant Analysis），是模式识别的经典算法。基本思想是将高维的模式样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特征空间维数的效果，投影后类内方差最小，类间方差最大。实验与思考关于LDA降维效果的思考左图是单纯最大化类间距离可是并不能把红蓝两类很好的区分开来，注意这时候w和(m1−m2)是平行的。右图则是使用
转载
2024-04-17 10:31:30
96阅读
读取EXAMP10_01XLS中数据，进行距离判别读取数据读取文件EXAMP10_01XLS的第1个工作表中C2F51范围的数据，即全部样本数据，包括未判企业SAMPLEXLSREAD EXAMP10_01XLS , , C2F51 读取文件EXAMP10_01XLS的第1个工作表中C2F47范围的数据，即已知组别的样本数据，TRAININGXLSREAD EXAMP10_01XLS , , C2
1.PCA主成分分析PCA是不考虑样本类别输出的无监督降维技术，实现的是高维数据映射到低维的降维。PCA原理这个介绍的不错：线性代数矩阵性质背景：特征值表示的是矩阵在特征值对应的特征向量方向上的伸缩大小；步骤：1）组成数据矩阵def get_date():
m_vec = np.array([0, 0, 0])
cov_vec = np.array([[1, 0, 0], [0,
转载
2024-05-20 10:44:14
0阅读
1、线性判别要分析的问题：（1）用途：数据预处理中的降维、分类任务。 目标：LDA关心的是能够最大化类间区分度的坐标轴成分。 将特征空间（数据集中的多维样本）投影到一个维度更小的K维子空间中，同时保持区分类别的信息。 原理：投影到维度更低的空间中，使得投影后的点会形成按类别区分一簇一簇的情况。相同类别的点将在投影后的空间更加接近，不同类别的点在投影后距离越远。 投影的难点：如何找到最恰当的投影使得
转载
2024-03-26 10:58:38
152阅读
若数据集特征十分庞大，可能会使计算任务变得繁重，在数据特征有问题时，可能会对结果造成不利影响。 因此可以用降维算法，通过某种映射方法，将原始高维空间中的数据点映射到低纬度的空间中。这里介绍LDA（有监督学习算法）。线性判别分析（Linear Discriminant Analysis,LDA），也叫作Fisher线性判别，最开始用于分类任务，但由于其对数据特征进行了降维投影，成为一种经典的降维方法
转载
2024-04-24 13:35:33
67阅读
前面写的PCA，LE，LDA，LLE都是以前就比较熟悉的东西，从这篇开始写的都是之前不熟悉的甚至都不知道名字的算法，然而都还很经典。疫情期间在家里看看原文，学习学习，既是算法总结又是读论文笔记。这篇来写LTSA局部切空间排列。本篇符号尽量与原文保持一致，与前面几篇有所不同。主要思路LTSA（Local Tangent Space Alignment）的基本思路是用样本点的近邻区域的切空间来表示局部
转载
2024-05-22 19:23:55
240阅读
特征降维方法包括：Lasso，PCA，小波分析，LDA(Linear Discriminant Analysis线性判别分析)，LDA(Latent Dirichlet Allocation潜在狄利克雷分配)，奇异值分解SVD，拉普拉斯特征映射，深度学习SparseAutoEncoder，局部线性嵌入LLE，等距映射Isomap，word2vec。1. LASSO通过参数缩减达到降维的目的。LAS
转载
2024-05-09 12:41:25
53阅读
为什么要用LDA前面的博客提到PCA是常用的有效的数据降维的方法，与之相同的是LDA也是一种将数据降维的方法。PCA已经是一种表现很好的数据降维的方法，那为什么还要有LDA呢？下面我们就来回答这个问题？ PCA是一种无监督的数据降维方法，与之不同的是LDA是一种有监督的数据降维方法。我们知道即使在训练样本上，我们提供了类别标签，在使用PCA模型的时候，我们是不利用类别标签的，而LDA在
转载
2023-10-26 22:01:38
82阅读
本周关于降维的学习主要分为五类：PCA、LDA、LLE、tSNE、ISOMAP 来进行学习 首先自己的任务是：tSNE的学习 （一）降维的基本知识点总结 1、降维方法分为线性和非线性降维，非线性降维又分为基于核函数和基于特征值的方法。 （1）线性降维：PCA、ICA、LDA、LFA、LPP （2）非线性降维方法：①基于核函数的方法：KPCA、KICA、KDA ②基于特征值的方法：IS
转载
2024-04-08 08:25:43
101阅读
# LDA降维在Python中的应用
在数据分析和机器学习的领域，降维是一项重要的技术。它有助于减少数据的复杂性，提高模型的性能。线性判别分析（LDA）是一种广泛使用的降维方法，尤其在分类任务中表现优异。本文将介绍LDA降维的基本概念及其在Python中的应用，同时提供代码示例和可视化图表。
## 什么是LDA？
LDA（Linear Discriminant Analysis）是一种用于分
原创
2024-09-04 03:31:51
36阅读
