特征降维是无监督学习的另一个应用，目的有两个：一是我们经常在实际项目中遭遇特征维度非常高的训练样本，而往往无法借助自己的领域知识人工构建有效特征；二是在数据表现方面，我们无法用肉眼观测超过三个维度的特征。因此特征降维不仅重构了有效的低维度特征向量，同时也为数据展现提供了可能。PCA是最为经典和实用的特征降维技术，特别在辅助图形识别方面有突出的表现。本篇我们依然沿用上篇的“手写体数字图像”全集数据。
在处理高维数据时，Python 中的 tensor 降维问题显得尤为重要。通过有效的降维，可以减小数据的复杂性，同时保留有用的信息。降维不仅能够提升模型的训练效率，还可以提高数据可视化的效果。在本文中，我们将探讨如何通过一系列结构化的方法来实现这一目标。
首先，为了确保我们在进行 tensor 降维操作时不会丢失重要数据，我们需要制定一个备份策略。这种策略不仅要关注数据的完整性，还要思考数据存储
1 基于特征选择的降维特征选择是在数据建模过程最常用的特征降维手段，简单粗暴，即映射函数直接将不重要的特征删除，不过这样会造成特征信息的丢失，不利于模型的精度。由于数据的Fenix以抓住主要影响因素为主，变量越少越有利于分析，因此特征选择常用于统计分析模型中。1.1特征选择的方法过滤法(Filter)：按照发散性或者相关性对各个特征进行评分，通过设定阈值或者待选择阈值的个数来选择特征。包装法(Wr
转载
2023-11-13 23:27:06
86阅读
文章目录一、PCA有什么用？（对PCA的综合理解）二、PCA数学原理坐标轴旋转向量旋转三、PCA算法流程概述四、PCA算法的python实现1、numpy按步骤实现2、sklearn实现（方便应用）五、绘图 一、PCA有什么用？（对PCA的综合理解）PCA是数据降维的一种方法，其中的核心理论是矩阵的特征值和特征向量。特征向量和特征值的作用可以理解为将高维数据沿一个特定的方向拓展，使得不同记录的数
转载
2023-12-19 21:48:44
83阅读
# 从3维Tensor降到2维Tensor
## 操作流程
```mermaid
journey
title 降维过程
section 理解问题
开发者->小白: 确定需要将3维Tensor降为2维
section 寻找方法
开发者->小白: 推荐使用PyTorch的view函数
section 实施操作
开发者-
原创
2024-04-15 03:40:20
96阅读
## 实现PyTorch Tensor降维的方法
### 介绍
作为一名经验丰富的开发者，我将向你解释如何在PyTorch中实现Tensor的降维操作。这对于刚入行的小白来说可能是一个有挑战性的任务，但是通过本文的指导，你将能够轻松掌握这一技巧。
### 流程图
```mermaid
sequenceDiagram
小白->>开发者: 请求帮助实现PyTorch Tensor降维
原创
2024-05-26 06:28:33
215阅读
1、张量1.1 pytorch和python的对比python：int、float、tuple(元组)、stringpytorch：以tensor结尾，不同类型的tensor的维度不同 例如：整型数字tensor维度为0，二维数组tensor的维度为2维1.2 pytorch特殊地方pytorch不支持string，可以用one-hot编码表示字符常见类型：float32对应pytorch：tor
转载
2023-09-29 08:42:41
188阅读
# PyTorch Tensor如何降一维
在深度学习和数据科学领域，PyTorch 是一个越来越受欢迎的深度学习框架。作为一个研究和生产界通用的工具，PyTorch 提供了丰富的功能来处理多维数据结构，即张量（tensor）。在实践中，常常需要对这些张量进行维度操作，包括“降维”。本文将深入探讨 PyTorch 张量的降一维操作，包括多种方法、代码示例、流程图和关系图等。
## 什么是降维？
一、降维和特征选择的区别降低维度的意义： 维数灾难：在给定精度下，准确地对某些变量的函数进行估计，所需样本量会随着样本维数的增加而呈指数形式增长。 降维的意义：克服维数灾难，获取本质特征，节省存储空间，去除无用噪声，实现数据可视化，减少过拟合之前没有详细了解之前，一直觉得降维和特征选择是一样的，因为他们的最终结果都是减少维度；但是这两
转载
2024-01-17 11:46:42
140阅读
本文包括两部分，使用python实现PCA代码及使用sklearn库实现PCA降维，不涉及原理。总的来说，对n维的数据进行PCA降维达到k维就是：对原始数据减均值进行归一化处理；求协方差矩阵；求协方差矩阵的特征值和对应的特征向量；选取特征值最大的k个值对应的特征向量；经过预处理后的数据乘以选择的特征向量，获得降维结果。 实验数据数据data.txt使用[2]中编写的数据，以下是部分数据截
转载
2023-08-10 11:37:47
229阅读
书接上文，本次将介绍两种常用的特征降维的方法：主成分分析（Principal Component Analysis，PCA），线性判别分析（Linear Discriminant Analysis，LDA）。2.3 特征降维2.3.1基本思想与特征选择的思想有着异曲同工之妙，都是希望在保留足够信息量的前提下获得比较精简的数据，以提高模型的运算速度。二者的不同之处就是降维的方式：特征选择是是直接删除
转载
2023-11-20 08:58:35
94阅读
参考：菜菜的sklearn教学之降维算法.pdf!!PCA(主成分分析法)1. PCA(最大化方差定义或者最小化投影误差定义)是一种无监督算法，也就是我们不需要标签也能对数据做降维，这就使得其应用范围更加广泛了。那么PCA的核心思想是什么呢？例如D维变量构成的数据集，PCA的目标是将数据投影到维度为K的子空间中，要求K<D且最大化投影数据的方差。这里的K值既可以指定，也可以利用主成分的信息来
转载
2023-09-09 21:09:36
45阅读
1. 纬度 纬度是数据集中特征的数量。2. 降维 降维是对给定数据集进行（特征）降维的过程。也就是说，如果数据集有100列/特性，并将列数减少到了20-25列。2.1 降维的好处 随着特征数量的增加，数据点的数量也会成比例地增加。即越多的特征会带来更多的数据样本，模型的性能会提升。当数据纬度过大时，会造成“纬度灾难”，导致模型的性能降低。因此应当对数据进行降维处理，使模型性能达到最优。它有助
转载
2024-01-02 11:17:27
97阅读
sklearn中的降维算法1. PCA与SVD sklearn中降维算法都被包括在模块decomposition中，这个模块本质是一个矩阵分解模块。在过去的十年中，如果要讨论算法进步的先锋，矩阵分解可以说是独树一帜。矩阵分解可以用在降维，深度学习，聚类分析，数据预处理，低纬度特征学习，推荐系统，大数据分析等领域。在2006年，Netflix曾经举办了一个奖金为100万美元的推荐系统算
转载
2024-01-08 14:23:47
59阅读
数据降维：定义：特征的数量减少特征选择：原因：1、冗余部分特征相关性高，容易消耗计算机性能2、噪声：部分特征对预测结果有负影响工具：1、Filter（过滤式）：VarianceThreshold （sklearn.feature_selection.VarianceThreshold）2、Embedded（嵌入式）：正则化、决策树3、Wrapper（包裹式）方差大小来考虑P
转载
2023-08-31 15:36:19
102阅读
网上关于各种降维算法的资料参差不齐，同时大部分不提供源代码。这里有个 GitHub 项目整理了使用 Python 实现了 11 种经典的数据抽取(数据降维)算法，包括：PCA、LDA、MDS、LLE、TSNE 等，并附有相关资料、展示效果;非常适合机器学习初学者和刚刚入坑数据挖掘的小伙伴。所谓降维，即用一组个数为 d 的向量 Zi 来代表个数为 D 的向量 Xi 所包含的有用信息，其中 d<
转载
2023-08-15 17:18:52
128阅读
数据降维概述1.数据降维概述所谓的数据降维就是指采用某种映射方法，将原高维空间中的数据点映射到低维度的空间中，可以解决大规模特征下的数据显示问题，使得数据集更易使用，降低后续算法的计算，消除噪声影响并使得结果更易理解。 数据降维的方法有很多，可从线性或非线性角度对其简单分类。 线性降维是指通过降维所得到的低维数据能保持高维数据点之间的线性关系，主要包括主成分分析(Principal Compone
转载
2024-02-23 10:22:44
38阅读
作者: 郗晓琴 熊泽伟今天这篇文章是介绍目前前沿好用的一种降维可视化算法：t-SNE,并且附带python的实际例子加以讲解。t-SNE是什么技术我们直接开门见山好了，第一件事：什么是t-SNE？t-SNE的全称叫做t分布式随机邻居嵌入（t-SNE）。该算法是一种非监督的非线性技术，主要用于数据探索和可视化高维数据。简而言之，t-SNE为我们提供了数据
转载
2023-08-09 19:41:45
193阅读
Python中T-SNE实现降维 from sklearn.manifold import TSNE
from sklearn.datasets import load_iris
from sklearn.decomposition import PCA
import matplotlib.pyplot as plt
iris = load_iris()
X_tsne = TSNE(
转载
2023-05-30 19:50:27
103阅读
注： 在《SVD(异值分解)小结 》中分享了SVD原理，但其中只是利用了numpy.linalg.svd函数应用了它，并没有提到如何自己编写代码实现它，在这里，我再分享一下如何自已写一个SVD函数。但是这里会利用到SVD的原理，如何大家还不明白它的原理，可以去看看《SVD(异值分解)小结 》，或者自行百度/google。1、SVD算法实现1.1 SVD原理简单回顾有一个\(m \times n\)
转载
2023-08-03 16:23:55
131阅读
