个人笔记，仅用于个人学习与总结 本文目录1. Pytorch的主要组成模块1.1 完成深度学习的必要部分1.2 基本配置1.3 数据读入1.4 模型构建1.4.1 神经网络的构造1.4.2 神经网络中常见的层1.4.3 模型示例1.5 模型初始化1.5.1 torch.nn.init常用方法1.5.2 torch.nn.init使用1.5.3 初始化函数的封装1.6 损失函数1.6.0 基本用法
转载
2023-07-05 12:41:09
406阅读
# 在 PyTorch 中实现主成分分析 (PCA)
主成分分析 (PCA) 是一种常见的数据降维技术，广泛应用于数据处理和特征提取。本文将逐步指导你如何在 PyTorch 中实现主成分分析。我们将通过以下步骤来完成这个任务：
| 步骤 | 说明 |
|-----------|----------------
pyTorch架构参考资料：主页 - PyTorch中文文档 (pytorch-cn.readthedocs.io) 文章目录pyTorch架构torch是什么pytorch中的torchtorch.Tensortorch.Storagetorch.nn包含多种子类：容器(Containers):网络层：函数包：torch.nn.functional搭建好的网络：torch.autograd:to
转载
2023-07-07 11:29:54
186阅读
文章目录写在前面一、PCA主成分分析1、主成分分析步骤2、主成分分析的主要作二、Python使用PCA主成分分析 写在前面作为大数据开发人员，我们经常会收到一些数据分析工程师给我们的指标，我们基于这些指标进行数据提取。其中数据分析工程师最主要的一个特征提取方式就是PCA主成分分析，下面我将介绍Python的sklearn库中是如何实现PCA算法及其使用。一、PCA主成分分析什么是PCA主成分分析
转载
2023-10-17 11:58:37
431阅读
主成分分析 本文将介绍主成分分析(PCA)，主成分分析是一种降维算法，它能将多个指标转换为少数几个主成分，这些主成分是原始变量的线性组合，且彼此之间互不相关，其能反映出原始数据的大部分信息。 一般来说，当研究的问题涉及到多变量且变量之间存在很强的相关性时，我们可考虑使用主成分分析的方法来对数据进行简化。 文章目录主成分分析一、主成分分析简介二、主成分分析的思想三、主成分分析的计算步骤四、案例分析
转载
2023-10-16 09:12:09
484阅读
目录一、主成分分析的原理二、主成分分析步骤1.主成分分析的步骤：2.部分说明（1）球形检验（Bartlett)（2）KMO（Kaiser-Meyer-Olkin)统计量（3）主成分分析的逻辑框图 三、所用到的库 factor_analyzer库 四、案例实战 1.数据集2.导入库 3.读取数据集 4.进行球状检验5.KMO检验
转载
2023-08-06 12:09:42
585阅读
小技巧动量 momentum惯性 定义 无动量梯度更新的公式：有动量梯度更新公式： 当减去一个梯度的时候就意味着他是朝着那个梯度移动的，原来的
一、相关理论：1、数据规约：产生更小且保持数据完整性的新数据集。意义在于降低无效、错误数据；降低存储成本；少量且具有代表性的数据大幅加快，主要分为以下两类：①属性规约：属性合并或删除无关维，目标是寻找最小子集使子集概率分布尽可能与原来相同。 常用方法：（1）合并属性 将就属性合并为新属性 {A1,A2,A3,B1,B2,C}——{A,B,C} （2）逐步向前选择 从空集开
转载
2024-03-04 05:54:20
91阅读
前面写的一些统计学习方法都是属于监督学习（supervised learning），这篇主成分分析（principal components analysis，简称 PCA ）和下一篇聚类分析（clustering）都是属于非监督学习（unsupervised learning）。之前 ISLR读书笔记十二 中已经提到过主成分这一概念。其主要目的是利用一小部分数据组合，尽可能多地体现这里的
转载
2024-01-24 23:08:38
44阅读
问题：如果IR在该文件中，我们已经建立-词项矩阵，有两个词条目“learn”和“study”，在传统的向量空间模型。两个独立的感觉。从语义的角度来讲，两者是相似的，并且两者出现频率也类似，是不是能够合成为一个特征呢？ 《模型选择和规则化》谈到的特征选择的问题。就是要剔除的特征主要是和类标签无关的特征...
转载
2015-06-17 13:43:00
245阅读
主成分分析是一种降维算法，它能将多个指标转换为少数几 个主成分，这些主成分是原始变量的线性组合，且彼此之间 互不相关，其能反映出原始数据的大部分信息。一般来说， 当研究的问题涉及到多变量且变量之间存在很强的相关性时， 我们可考虑使用主成分分析的方法来对数据进行简化。 主成分分析是把原来多个变量划为少 ...
转载
2021-09-10 10:50:00
275阅读
2评论
PCA（Principal Component Analysis）是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。数据的向量表示及降维问题一般情况下，在数据挖掘和机器学习中，数据被表示为向量。例如某个淘宝店2012年全年的流量及交易情况可以看成一组记录的集合，其中每一天的数据是一条记录，格式如下：(日期, 浏
原创
2021-05-20 23:54:26
1361阅读
PCA算法提供了一种压缩数据的方式。我们也可以将PCA视为学习数据表示的无监督学习算法。这种表示基于上述简单表示的两个标准。PCA学习一种比原始输入维数更低的表示。它也学会了一种元素之间彼此没有线性相关的表示。这是学习表示中元素统计独立标准的第一步。要实现完全独立性，表示学习算法也必须去掉变量间的非线性关系。假设有一个的设计矩阵X，数据的均值为零，。若非如此，通过预处理地步骤使所有样本减去均值...
原创
2021-08-13 09:45:10
237阅读
1. 主成分分析预备知识 1.1 样本均值 给定数据集$D={x_1, x_2, ..., x_n}$, 样本$x_i$是$d$维向量，则样本均值为 \[ \overline{x}=\frac{x_1+x_2+...+x_n}{n}\tag{1} \] 例1 给定一个数据矩阵 \[ D_{3\tim ...
转载
2021-09-25 14:37:00
203阅读
2评论
假设我门得到2维度数据data = [[x1,y1],[x2,y2],...,[xn,yn]]# 1.求x，y的均值mx = m
原创
2022-11-02 09:48:47
115阅读
问题：如果在IR中我们建立的文档-词项矩阵中，有两个词项为“learn”和“study”，在传统的向量空间模型中，觉得两者独立。然而从语义的角度来讲，两者是相似的，并且两者出现频率也类似，是不是能够合成为一个特征呢？ 《模型选择和规则化》谈到的特征选择的问题，就是要剔除的特征主要是和类标签无关的特征。比方“学生的名字”就和他的“成绩”无关，使用的是互信息的方法。
转载
2015-02-16 11:10:00
160阅读
主成分分析的原理 主成分分析是将众多的变量转换为少数几个不相关的综合变量，同时不影响原来变量反映的信息，实现数学降维。 如何获取综合变量？ 通过指标加权来定义和计算综合指标： \[ Y_1 = a_{11} \times X_1+a_{12} \times X_2 + ... +a_{1n} \ti ...
转载
2021-10-16 22:16:00
371阅读
2评论
主成分分析（Principal Component Analysis, PCA ）是一种利用线性映射来进行数据降维的方法，并去除数据的相关性; 且最大限度保持原始数据的方差信息 线性映射，去相关性，方差保持 线性映射 \[ F = \sum_{i=1}^{p}u_iX_i = u^{T}X \] 相 ...
转载
2021-10-28 11:21:00
331阅读
2评论
一、概念主成分分析的提出：principal component analysis,是将多个指标化为少数几个综合指标的一种统计分析方法，即通过降维技术把多个变量化为少数几个主成分的方法。 基本思想：将原来众多具有一定相关性的指标，重新组合成一组新的相互无关的综合指标来代替原来指标。
原创
2022-01-11 16:47:00
293阅读
一、主成分分析是利用降维的方法，在损失很少信息量很少的前提下,把多个指标转换为几个综合指标的多元统计方法。通常把转化的综合指标称为主成分。二、基本原理在对某一事物进行研究时，为了更全面、准确地反应事物的特征及其发展规律人们通常考虑一起有关系的多个指标，也叫变量。三、主成分分析步骤1、根据问题选取初始变量2、根据初始变量特性判断由协方差矩阵求主成分还是由相关阵求主成分3、求协方差矩阵或相关矩阵的特征
转载
2023-09-08 11:02:57
105阅读
