由于论文需要，开始逐渐的学习CNN关于文本抽取的问题，由于语言功底不好，所以在学习中难免会有很多函数不会用的情况.....￣へ￣主要是我自己的原因，但是我更多的把语言当成是一个工具，需要的时候查找就行~~~~但是这也仅限于搬砖的时候，大多数时候如果要自己写代码，这个还是行不通的。简单的说一下在PCA，第一次接触这个名词还是在学习有关CNN算法时，一篇博客提到的数据输入层中，数据简单处理的几种方法之
目录一、python矩阵1.python矩阵操作2.python矩阵乘法3.python矩阵转置4.python求方程的迹5.python方阵的行列式计算方法6.python求逆矩阵/伴随矩阵7.python解多元一次方程二、梯度下降法三、最小二乘法 实验目的： 1.练习Python矩阵 2.解释微分、梯度的含义？ 什么是梯度下降法？并用用梯度下降法手工求解参考，在Excel里用牛顿法、或者梯度
转载
2024-07-07 12:38:46
31阅读
sklearn中的降维算法1. PCA与SVD sklearn中降维算法都被包括在模块decomposition中，这个模块本质是一个矩阵分解模块。在过去的十年中，如果要讨论算法进步的先锋，矩阵分解可以说是独树一帜。矩阵分解可以用在降维，深度学习，聚类分析，数据预处理，低纬度特征学习，推荐系统，大数据分析等领域。在2006年，Netflix曾经举办了一个奖金为100万美元的推荐系统算
转载
2024-01-08 14:23:47
59阅读
为什么要对数据进行降维？实际应用中的数据一般是高维的，比如手写的数字，如果我们缩放到28×28的图片大小，那么它的维度就是28×28=784维。举个简单的例子：下图是手写的1及其对应的图像二维矩阵，数据已经被规范化到[0,1]范围内。 降维的目的有很多，个人觉得最主要的目的有二：1.为了对数据进行可视化，以便对数据进行观察和探索。2.另外一个目的是简化机器学习模型的训练和预测。我们很难对高维数据具
转载
2023-11-04 23:06:49
141阅读
主成分分析（PCA）降维PCA 是一种基于从高维空间映射到低维空间的映射方法，也是最基础的无监督降维算法，其目标是向数据变化最大的方向投影，或者说向重构误差最小化的方向投影。它由 Karl Pearson 在 1901 年提出，属于线性降维方法。与 PCA 相关的原理通常被称为最大方差理论或最小误差理论。这两者目标一致，但过程侧重点则不同。
最大方差理论降维原理
将一组 N 维向量降为
转载
2023-10-11 12:13:44
106阅读
Python-深度学习-学习笔记（17）：利用t-SNE对数据实现降维聚类一、引言由于现有的算法还不够智能，所以必须依靠人类的智慧介入分析。所以，需要通过可视化技术把高维空间中的数据以二维或三维的形式展现出来便于我们观看，展示的效果如何也就直接决定着我们分析的难度。二、降维降维的目的其实是将高维度下的特征能够通过某种方式降到低维度下，并且保留不同类的特征所体现出的不同规律，或者可以说是用低维度特征
转载
2023-09-04 14:27:14
177阅读
线性判别分析LDA原理总结</h1>
<div class="clear"></div>
<div class="postBody"> 在主成分分析（PCA）原理总结中，我们对降维算法PCA做了总结。这里我们就对另外一种经典的降维方法线性判别分析（Linear Discriminant Analysis, 以
转载
2023-10-04 23:06:51
104阅读
一、降维算法的主要的目的 1、降维可以减少数据共线性，减少冗余特征，提高算法运行效率 2、可视化需要二、主要的降维算法三、降维算法的主要思想 在高维数据中，有一部分特征是不带有有效信息的，还有一部分特征之间存在共线性(特征间有线性
转载
2023-10-31 18:48:39
140阅读
局部线性嵌入 （Locally linear embedding）是一种非线性降维算法，它能够使降维后的数据较好地保持原有 流形结构 。LLE可以说是流形学习方法最经典的工作之一。很多后续的流形学习、降维方法都与LLE有密切联系。 如下图，使用LLE将三维数据（b）映射到二维（c）之后，映射后
转载
2023-07-20 23:42:05
228阅读
# Python UMAP降维代码实现指南
作为一名经验丰富的开发者，我很高兴能帮助你学习如何使用Python实现UMAP（Uniform Manifold Approximation and Projection）降维。UMAP是一种非线性降维技术，它能够保留数据的局部结构，非常适合处理高维数据。在本文中，我将为你详细介绍实现UMAP降维的步骤，并提供相应的代码示例。
## 步骤流程
首先
原创
2024-07-18 05:37:05
859阅读
# LDA降维及其Python实现
在数据分析与机器学习领域，降维是一个重要的预处理步骤，通过将高维数据映射到低维空间，帮助我们去除噪声、提高计算效率并减少过拟合风险。LDA（线性判别分析）是一种经典的降维技术，特别适用于分类问题。本文将探讨LDA的基本原理，并给出Python实现的示例代码。
## LDA的基本原理
LDA的目标是通过最大化类间散度和最小化类内散度来找到最佳的投影方向。在数
# LLE降维算法：原理及Python代码实现
## 引言
在机器学习和数据分析领域，数据维度往往是一个重要的问题。高维度数据不仅难以可视化，而且会导致机器学习模型的性能下降。因此，降维是一个非常重要的任务。LLE（Locally Linear Embedding）是一种流行的非线性降维算法，它通过保持样本之间的局部线性关系来实现降维。本文将介绍LLE算法的原理，并提供Python代码示例来实现
原创
2023-09-04 13:25:03
399阅读
# Python数据降维的实现方法
在数据分析和机器学习中，数据降维是一项非常重要的技术。它可以帮助我们减少数据的复杂性，去除冗余信息，同时提高模型的性能。本文将详细介绍如何使用Python实现数据降维，特别是利用主成分分析（PCA）进行降维。我们将通过以下步骤来完成整个过程。
## 整体流程
以下是实现数据降维的步骤：
| 步骤 | 描述
# 数据降维的实现教程：使用Python
在大数据时代，我们常常会面临高维数据的问题。高维数据会导致计算负担重、可视化困难和分析效果下降等一系列问题。数据降维是一种减少数据维度的技术，它可以帮助我们更好地理解数据、加快算法速度以及提高结果的可视化效果。本文将为你详细介绍如何在Python中实现数据降维的过程。
## 数据降维流程
我们将使用主成分分析（PCA）方法进行数据降维。以下是整个过程
# LDA降维代码实现
## 概述
本文将介绍如何使用Python实现LDA（线性判别分析）降维算法。LDA是一种经典的降维方法，它能够将高维数据映射到低维空间中，并保留数据的类别判别信息。LDA常被用于特征选择、数据可视化等任务中。
## LDA降维算法流程
下表展示了整个LDA降维算法的流程：
| 步骤 | 描述 |
| --- | --- |
| 1. 数据准备 | 读取数据集，并
原创
2023-09-08 12:54:08
254阅读
为什么要用LDA前面的博客提到PCA是常用的有效的数据降维的方法，与之相同的是LDA也是一种将数据降维的方法。PCA已经是一种表现很好的数据降维的方法，那为什么还要有LDA呢？下面我们就来回答这个问题？ PCA是一种无监督的数据降维方法，与之不同的是LDA是一种有监督的数据降维方法。我们知道即使在训练样本上，我们提供了类别标签，在使用PCA模型的时候，我们是不利用类别标签的，而LDA在
转载
2023-10-26 22:01:38
82阅读
本文包括两部分，使用python实现PCA代码及使用sklearn库实现PCA降维，不涉及原理。总的来说，对n维的数据进行PCA降维达到k维就是：对原始数据减均值进行归一化处理；求协方差矩阵；求协方差矩阵的特征值和对应的特征向量；选取特征值最大的k个值对应的特征向量；经过预处理后的数据乘以选择的特征向量，获得降维结果。 实验数据数据data.txt使用[2]中编写的数据，以下是部分数据截
转载
2023-08-10 11:37:47
229阅读
# t-SNE 降维原理与 Python 实现
### 一、引言
在机器学习和数据科学领域，数据降维是一个重要的步骤。尤其是在处理高维数据时，降维不仅能够减少计算成本，还能帮助我们更好地理解数据。t-SNE（t-Distributed Stochastic Neighbor Embedding）是一种常用的降维技术，尤其适合于可视化高维数据。本文将介绍t-SNE的原理，展示如何在Python中
数据降维：定义：特征的数量减少特征选择：原因：1、冗余部分特征相关性高，容易消耗计算机性能2、噪声：部分特征对预测结果有负影响工具：1、Filter（过滤式）：VarianceThreshold （sklearn.feature_selection.VarianceThreshold）2、Embedded（嵌入式）：正则化、决策树3、Wrapper（包裹式）方差大小来考虑P
转载
2023-08-31 15:36:19
102阅读
注： 在《SVD(异值分解)小结 》中分享了SVD原理，但其中只是利用了numpy.linalg.svd函数应用了它，并没有提到如何自己编写代码实现它，在这里，我再分享一下如何自已写一个SVD函数。但是这里会利用到SVD的原理，如何大家还不明白它的原理，可以去看看《SVD(异值分解)小结 》，或者自行百度/google。1、SVD算法实现1.1 SVD原理简单回顾有一个\(m \times n\)
转载
2023-08-03 16:23:55
131阅读
