特征降维是无监督学习的另一个应用，目的有两个：一是我们经常在实际项目中遭遇特征维度非常高的训练样本，而往往无法借助自己的领域知识人工构建有效特征；二是在数据表现方面，我们无法用肉眼观测超过三个维度的特征。因此特征降维不仅重构了有效的低维度特征向量，同时也为数据展现提供了可能。PCA是最为经典和实用的特征降维技术，特别在辅助图形识别方面有突出的表现。本篇我们依然沿用上篇的“手写体数字图像”全集数据。
在处理高维数据时，Python 中的 tensor 降维问题显得尤为重要。通过有效的降维，可以减小数据的复杂性，同时保留有用的信息。降维不仅能够提升模型的训练效率，还可以提高数据可视化的效果。在本文中，我们将探讨如何通过一系列结构化的方法来实现这一目标。
首先，为了确保我们在进行 tensor 降维操作时不会丢失重要数据，我们需要制定一个备份策略。这种策略不仅要关注数据的完整性，还要思考数据存储
1 基于特征选择的降维特征选择是在数据建模过程最常用的特征降维手段，简单粗暴，即映射函数直接将不重要的特征删除，不过这样会造成特征信息的丢失，不利于模型的精度。由于数据的Fenix以抓住主要影响因素为主，变量越少越有利于分析，因此特征选择常用于统计分析模型中。1.1特征选择的方法过滤法(Filter)：按照发散性或者相关性对各个特征进行评分，通过设定阈值或者待选择阈值的个数来选择特征。包装法(Wr
转载
2023-11-13 23:27:06
86阅读
文章目录一、PCA有什么用？（对PCA的综合理解）二、PCA数学原理坐标轴旋转向量旋转三、PCA算法流程概述四、PCA算法的python实现1、numpy按步骤实现2、sklearn实现（方便应用）五、绘图 一、PCA有什么用？（对PCA的综合理解）PCA是数据降维的一种方法，其中的核心理论是矩阵的特征值和特征向量。特征向量和特征值的作用可以理解为将高维数据沿一个特定的方向拓展，使得不同记录的数
转载
2023-12-19 21:48:44
83阅读
## 实现PyTorch Tensor降维的方法
### 介绍
作为一名经验丰富的开发者，我将向你解释如何在PyTorch中实现Tensor的降维操作。这对于刚入行的小白来说可能是一个有挑战性的任务，但是通过本文的指导，你将能够轻松掌握这一技巧。
### 流程图
```mermaid
sequenceDiagram
小白->>开发者: 请求帮助实现PyTorch Tensor降维
原创
2024-05-26 06:28:33
215阅读
# 从3维Tensor降到2维Tensor
## 操作流程
```mermaid
journey
title 降维过程
section 理解问题
开发者->小白: 确定需要将3维Tensor降为2维
section 寻找方法
开发者->小白: 推荐使用PyTorch的view函数
section 实施操作
开发者-
原创
2024-04-15 03:40:20
96阅读
1、张量1.1 pytorch和python的对比python：int、float、tuple(元组)、stringpytorch：以tensor结尾，不同类型的tensor的维度不同 例如：整型数字tensor维度为0，二维数组tensor的维度为2维1.2 pytorch特殊地方pytorch不支持string，可以用one-hot编码表示字符常见类型：float32对应pytorch：tor
转载
2023-09-29 08:42:41
188阅读
# PyTorch Tensor如何降一维
在深度学习和数据科学领域，PyTorch 是一个越来越受欢迎的深度学习框架。作为一个研究和生产界通用的工具，PyTorch 提供了丰富的功能来处理多维数据结构，即张量（tensor）。在实践中，常常需要对这些张量进行维度操作，包括“降维”。本文将深入探讨 PyTorch 张量的降一维操作，包括多种方法、代码示例、流程图和关系图等。
## 什么是降维？
一、降维和特征选择的区别降低维度的意义： 维数灾难：在给定精度下，准确地对某些变量的函数进行估计，所需样本量会随着样本维数的增加而呈指数形式增长。 降维的意义：克服维数灾难，获取本质特征，节省存储空间，去除无用噪声，实现数据可视化，减少过拟合之前没有详细了解之前，一直觉得降维和特征选择是一样的，因为他们的最终结果都是减少维度；但是这两
转载
2024-01-17 11:46:42
140阅读
本文包括两部分，使用python实现PCA代码及使用sklearn库实现PCA降维，不涉及原理。总的来说，对n维的数据进行PCA降维达到k维就是：对原始数据减均值进行归一化处理；求协方差矩阵；求协方差矩阵的特征值和对应的特征向量；选取特征值最大的k个值对应的特征向量；经过预处理后的数据乘以选择的特征向量，获得降维结果。 实验数据数据data.txt使用[2]中编写的数据，以下是部分数据截
转载
2023-08-10 11:37:47
229阅读
书接上文，本次将介绍两种常用的特征降维的方法：主成分分析（Principal Component Analysis，PCA），线性判别分析（Linear Discriminant Analysis，LDA）。2.3 特征降维2.3.1基本思想与特征选择的思想有着异曲同工之妙，都是希望在保留足够信息量的前提下获得比较精简的数据，以提高模型的运算速度。二者的不同之处就是降维的方式：特征选择是是直接删除
转载
2023-11-20 08:58:35
94阅读
参考：菜菜的sklearn教学之降维算法.pdf!!PCA(主成分分析法)1. PCA(最大化方差定义或者最小化投影误差定义)是一种无监督算法，也就是我们不需要标签也能对数据做降维，这就使得其应用范围更加广泛了。那么PCA的核心思想是什么呢？例如D维变量构成的数据集，PCA的目标是将数据投影到维度为K的子空间中，要求K<D且最大化投影数据的方差。这里的K值既可以指定，也可以利用主成分的信息来
转载
2023-09-09 21:09:36
45阅读
数据降维：定义：特征的数量减少特征选择：原因：1、冗余部分特征相关性高，容易消耗计算机性能2、噪声：部分特征对预测结果有负影响工具：1、Filter（过滤式）：VarianceThreshold （sklearn.feature_selection.VarianceThreshold）2、Embedded（嵌入式）：正则化、决策树3、Wrapper（包裹式）方差大小来考虑P
转载
2023-08-31 15:36:19
102阅读
sklearn中的降维算法1. PCA与SVD sklearn中降维算法都被包括在模块decomposition中，这个模块本质是一个矩阵分解模块。在过去的十年中，如果要讨论算法进步的先锋，矩阵分解可以说是独树一帜。矩阵分解可以用在降维，深度学习，聚类分析，数据预处理，低纬度特征学习，推荐系统，大数据分析等领域。在2006年，Netflix曾经举办了一个奖金为100万美元的推荐系统算
转载
2024-01-08 14:23:47
59阅读
1. 纬度 纬度是数据集中特征的数量。2. 降维 降维是对给定数据集进行（特征）降维的过程。也就是说，如果数据集有100列/特性，并将列数减少到了20-25列。2.1 降维的好处 随着特征数量的增加，数据点的数量也会成比例地增加。即越多的特征会带来更多的数据样本，模型的性能会提升。当数据纬度过大时，会造成“纬度灾难”，导致模型的性能降低。因此应当对数据进行降维处理，使模型性能达到最优。它有助
转载
2024-01-02 11:17:27
102阅读
使用sklearn库初次尝试PCA和T-SNE，原理还不太理解，写错了请一定指出，或者等我自己发现hhhh1. PCA首先读入sklearn里自带的鸢尾花数据库，并调用相关的包，再查看一下这些数据都是些啥：import matplotlib.pyplot as plt
from sklearn.decomposition import PCA
from sklearn.datasets impor
转载
2023-08-15 13:40:53
148阅读
主成分分析(Principal Component Analysis)Step 1:去相关(Decorrelation)Step 2: 降维(Reduce Dimension)数据是文本时Step 1:去相关(Decorrelation) 旋转数据样本，使它们与坐标轴对齐，并且样本均值变为0。##########################
转载
2023-06-21 21:04:08
216阅读
降维算法简介很多算法可以回归也可以分类降维算法PCA降维（主成分分析）LDA降维（线性判别分析）MDS降维（多维标度法）流形学习Isomap 简介很多算法可以回归也可以分类把连续值变为离散值：1.回归模型可以做分类：可以依据阀值（二元分类或多元分类）来分类2.逻辑回归二元分类，一个阀值。3.连续值进行分箱，实现多元分类4.把离散值变为连续值：插值法（1~2，在离散值之间插入足够密集的值）降维算法
转载
2023-09-19 07:01:06
165阅读
注： 在《SVD(异值分解)小结 》中分享了SVD原理，但其中只是利用了numpy.linalg.svd函数应用了它，并没有提到如何自己编写代码实现它，在这里，我再分享一下如何自已写一个SVD函数。但是这里会利用到SVD的原理，如何大家还不明白它的原理，可以去看看《SVD(异值分解)小结 》，或者自行百度/google。1、SVD算法实现1.1 SVD原理简单回顾有一个\(m \times n\)
转载
2023-08-03 16:23:55
131阅读
深度学习巨头之一的Hinton大神在数据降维领域有一篇经典论文Visualizing Data using t-SNE。该方法是流形（非线性）数据降维的经典，从发表至今鲜有新的降维方法能全面超越。该方法相比PCA等线性方法能有效将数据投影到低维空间并保持严格的分割界面；缺点是计算复杂度大，一般推荐先线性降维然后再用tSNE降维。python sklearn有相应的实现。我现在用Tensorflow
转载
2023-12-13 16:50:35
41阅读
