在处理数据的时候，我们往往会遇到高维数据，对于这种数据进行分类往往比较头疼，如果我们能把高维数据降至一维而且还不影响其分类效果，那么这将会有利于分类，而Fisher算法就是用来将高维数据降至一维而尽量保持其原有特征的一种算法。先来看一下这个降维效果，明显可以发现这并不是我们想要的，因为蓝色数据和红色数据有重合部分，而且大部分蓝色点和红色点距离过小，这样容易造成错误分类。 再来看一下下面这
转载
2023-07-24 14:13:50
80阅读
一、两分类问题1、LDA分类1.1、概念判别分析旨在寻找一种分类规则，而分类分析更进一步：将新的观察对象分到一个合适的类别——即在分析过程中进行的预测。Fisher判别分析的分类（LDA分类）是基于前面Fisher判别分析的思想进一步进行分类的。Fisher判别分析的思想是找到一个投影方向，使得两个样本均值在上的投影，之间的标准化距离最大，如下图。最后，我们求得的Fisher判别分析的判别函数。由
如果把机器学习归为两大类，那么主要的工作可以分为：分类和聚类。而分类任务基本上占整个机器学习或者是数据挖掘领域的70%,可见我们遇到的很多问题，都可以用分类的算法进行解决。机器学习发展到现在，许多被证实有效的分类算法被提出，例如我们经常会用到的K-近邻分类器、朴素贝叶斯分类器、支持向量机(SVM)、决策树算法等。大家平时在用的时候可能并不太清楚每种分类算法适合哪种类型的数据，因为对于不同的数据集，
转载
2023-07-11 16:38:55
55阅读
python代码完成Fisher判别的推导一、Fisher算法的主要思想二、Fisher数学算法步骤①计算各类样本均值向量
m
i
多类线性分类器算法原理及代码实现 MATLAB一、算法原理 下面举例说明为何蓝圈部分在case2中是确定的而在case1中不确定：二、代码实现1、HK函数function [] = HK(w1_data,w2_data)
%w1_data为第一类数据集 w2_data为第二类数据集
%此函数的作用为用HK算法对输入的数据集w1_data,w2_data做二分类，并画出分界面
lr=0.5 ;
Fisher分类器
原创
2022-10-10 16:04:14
67阅读
一、Fisher线性判别分析原理解析与算法描述 Fisher：1890-1962, 英国数学家，生物学家，现代统计学奠基人之一，证明了孟德尔的遗传律符合达尔文的进化论。 Fisher线性判别分析(Linear Discriminant Analysis, 简称Fisher LDA)是一种应用较为广泛的线性分类方法，该方法于1936年由Fisher提出。 Fisher准则的基本原理是，对于d维空间的
一、实验内容 二、基本思想 若把样本的多维特征空间的点投影到一条直线上，就能把特征空间压缩成一维。那么关 键就是找到这条直线的方向，找得好，分得好，找不好，就混在一起。因此
fisher
方法目标 就是找到这个最好的直线方向以及如何实现向最好方向投影的变换。这个投影变换恰是我们 所
文本分类（Document Classification / Document Categorization）▶ 分类方法1——基于规则(Hand-coded)精度高开销大▶ 分类方法2——机器学习(Machine learning)是一种计算机算法，该算法通过对数据做自动分析来获得规律，并利用这些规律对未知数据进行预测。它是人工智能的一个分支。有监督学习无监督的学习训练集包括输入和由
转载
2023-08-10 14:37:09
45阅读
由于高等数学底子太差的原因，机器学习总是无法深入学习下去，只能做一个简单的尝试者，甚至连调优也未必能算的上，不过这样也好，可以把重心放到对业务的理解上，以及业务和模型的选择上。线性模型包括了传统的线性回归、岭回归、Lasso回归，主要用于连续值的预测；逻辑回归虽然也是回归，但却是一种分类方法；LDA线性判别分析，则是一种降维方法；多项式回归，是使用线性模型训练数据的非线性函数。总的来说，尝试着回顾
1.原理概述我们的目的是将高维的数据投影到一维直线上并在投影的值中取一个阈值进行分类，如下图所示：（绘画水平有限，将就着看）在上图，很明显左边的投影更适合分类，因为两种类别（o和x）在投影直线上能轻松地找到一个阈值将其区分开来，而右边的投影方向则不适合当前分类。所以我们需要求解一个适合的投影方向在理解fisher的时候，我遇到了很多不理解问题，在经过多本书籍的对比之后终于搞懂了，其大致的思路如下：
机器学习之Fisher判别分析一、算法描述1、W的确定2、阈值的确定3、Fisher线性判别的决策规则4、群内离散度”（样本类内离散矩阵）、“群间离散度”（总类内离散矩阵）二、Python代码实现 一、算法描述Fisher线性判别分析的基本思想：选择一个投影方向（线性变换，线性组合），将高维问题降低到一维问题来解决，同时变换后的一维数据满足每一类内部的样本尽可能聚集在一起，不同类的样本相隔尽可能
转载
2023-07-11 16:37:42
123阅读
准则采用一种分类形式后，就要采用准则来衡量分类的效果，最好的结果一般出现在准则函数的极值点上，因此将分类器的设计问题转化为求准则函数极值问题，即求准则函数的参数，如线性分类器中的权值向量。分类器设计准则：FIsher准则、感知机准则、最小二乘（最小均方误差）准则Fisher准则Fisher线性判别分析LDA（Linearity Distinction Analysis）基本思想
1. 完成形式本Fisher二分类判别模型的代码是利用Python独立完成编写的，基本基于上课所讲内容，没有参考网上代码。2. 实现算法思路- 数据集选择与载入初始化 电力行业中，比较适合Fisher分类判别模型的数据集为用户画像的分类。然而电力行业由于国家管控的特殊性，导致网络上能够找到的开源的数据集过少，在Dataju平台原先有的十多个能源客户画像数据集在今年下半年也全部由于版权、客户信息保密
文章目录1. 概述2. 相关原理2.1 Fish_score2.2 线性判别模型和二次判别模型3. 代码实现过程4. Tips 1. 概述 本章节通过分析轴承振动数据得到了系列信号特征，采用fisher_score方法，获取了两个敏感特征，最后采用线性判别模型及二次判别模型获取了故障尺寸的分类模型。2. 相关原理2.1 Fish_score 详见Pyhon在振动信号处理中的高级应用（十）：监
最近一个朋友问这方面的一些问题，其实之前也就很粗略的看了下fisher，真正帮别人解答问题的时候才知道原来自己也有很多东西不懂。下面小结下自己对fisher判别的理解： 其实fisher和PCA差不多，熟悉PCA的人都知道，PCA其实就是在寻找一个子空间。这个空间怎么来的呢，先求协方差矩阵，然后求这个协方差矩阵的特征空间（特
目录一、什么是Fisher线性判别？二、Fisher判别分析的思想三、Fisher判别分析步骤四、Fisher判别分析python代码实现 一、什么是Fisher线性判别？可以考虑把d维空间的样本投影到一条直线上，形成一维空间，即把维数压缩到一维，这在数学上容易办到，然而，即使样本在d维空间里形成若干紧凑的互相分得开的集群，如果把它们投影到一条任意的直线上，也可能使得几类样本混在一起而变得无法识
Fisher discrimination criterion （费舍尔判别准则）其思想是:投影，使多维问题转化为低维问题来进行处理。选择一个适当的投影轴，使所用的样本点都投影到这个轴上得到投影值，使得同一类样本所形成的投影值的距离尽量的小，而不同类之间的投影值距离尽可能大。 通俗解释： ref: 又称线性判别，要计算一个向量乘法和减法，然后比较最小值就能解决判别问题， 下面用例子讲比较好
已知有两类数据和 二者的概率已知 ， 。 中数据点的坐标对应一一如下： =[0.2331 1.5207 0.6499 0.7757 1.0524 1.1974 0.2908 0.2518 0.6682 0.5622 0.9023 0.1333 -0.5431 0.9407 -0.2126 0.0507 -0.0810 0.7315 0.3345 1.0650 -0.0247 0.1043 0.3122 0.6655 0.5838 1.1...
原创
2021-12-28 17:37:15
484阅读
理论，编程步骤和优缺点1.理论 判别分析是用于判别个体所属群体的一种统计方法，判别分析的特点是根据已掌握的、历史上每个类别的若干样本的数据信息，总结出客观事物分类的规律性，建立判别公式和判别准则。然后，当遇到新的样本点时，只要根据总结出来的判别公式和判别准则，就能判别该样本点所属的类别。判别分析是一种应用性很强的统计数据分析方法。Fisher判别 （1）借助方差分析的思想构造一个线性判别函数： （
转载
2023-06-14 20:27:24
152阅读
