Photo by John Jennings on Unsplash
猎词（word hunt）是一类很常见的游戏，给你一张字母组成的表，然后让你在这些字母中尽可能多的去寻找单词。这类游戏有不同的变体，一类是你可以多次重复使用这些字母（这类游戏叫做猎词），或者你只能使用一次每个字母（这类游戏叫做字母重组）。你组出来的单词越长就得分越高，使用了所有字母就可以获得最高分。这类游戏对计
转载
2024-07-05 19:00:44
38阅读
# PyTorch稀疏字典K-SVD实现指南
## 简介
在本篇文章中，我将向你介绍如何使用PyTorch实现稀疏字典K-SVD算法。K-SVD是一种用于字典学习的算法，可以将高维数据表示为字典中的稀疏线性组合。我们将按照以下步骤进行实现：
1. 初始化稀疏字典；
2. 更新稀疏表示；
3. 更新字典。
## 流程表格
下面是整个实现过程的流程表格：
| 步骤 | 描述 |
| --- |
原创
2023-09-14 03:38:05
216阅读
目录sort()方法：（此方法只能适用于列表）1.描述2.语法3.参数4.返回值5.案例sorted()函数：（此方法用于所有可迭代的对象）1.描述2.语法3.参数4.返回值5.案例sort 与 sorted 区别：sort 和 sorted 分别对字典进行排序的操作：sortsorted扩展——求得字典最大值所对应的键和值（sorted）  
转载
2023-08-16 09:28:11
92阅读
稀疏编码 首先介绍一下“稀疏编码”这一概念。 早期学者在黑白风景照片中可以提取到许多16*16像素的图像碎片。而这些图像碎片几乎都可由64种正交的边组合得到。而且组合出一张碎片所需的边的数目很少，即稀疏的。同时在音频中大多数声音也可由几种基本结构组合得到。这其实就是特征的稀疏表达。即使用少量的基本特征来组合更加高层抽象的特征。在神经网络中即体现出前一层是未加工的像素，而后一层就是对这些像素的非线性
转载
2024-01-20 22:17:55
50阅读
在介绍矩阵的压缩存储前，我们需要明确一个概念：对于特殊矩阵，比如对称矩阵，稀疏矩阵，上（下）三角矩阵，在数据结构中相同的数据元素只存储一个。 @[TOC]三元组顺序表 稀疏矩阵由于其自身的稀疏特性，通过压缩可以大大节省稀疏矩阵的内存代价。具体操作是：将非零元素所在的行、列以及它的值构成一个三元组（i，j，v），然后再按某种规律存储这些三元组，这种方法可以节约存储空间 。 如下图所示为一个稀疏矩阵
转载
2024-10-15 17:02:59
74阅读
# PyTorch稀疏嵌入
在深度学习中，嵌入（Embedding）是一种常见的技术，用于将高维稠密向量转换为低维稀疏向量，以便更好地表示和处理数据。PyTorch提供了稠密嵌入（Dense Embedding）的功能，但有时候我们需要使用稀疏嵌入（Sparse Embedding）来处理大规模的高维数据，以节省内存和加速计算。本文将介绍如何在PyTorch中使用稀疏嵌入，并提供代码示例。
#
原创
2024-03-02 05:36:03
110阅读
文章目录The Sparse Vector Technique稀疏向量技术1.学习目标2.Above Threshold高于阙值算法3.Applying the Sparse Vector Technique应用稀疏向量技术4.Returning Multiple Values返回多个值5.Application: Range Queries应用：范围查询六、总结 The Sparse Vect
转载
2024-06-26 10:37:45
76阅读
一.前言在Pytorch Geometric中我们经常使用消息传递范式来自定义GNN模型，但是这种方法存在着一些缺陷：在邻域聚合过程中，物化x_i和x_j可能会占用大量的内存（尤其是在大图上）。然而，并不是所有的GNN都需要表达成这种消息传递的范式形式，一些GNN是可以直接表达为稀疏矩阵乘法形式的。在1.6.0版本之后，PyG官方正式引入对稀疏矩阵乘法GNN更有力的支持（torch-sparse中
转载
2023-10-15 11:05:14
1076阅读
第13个方法torch.spares_coo_tensor(indices, values, siez=None,*, dtype=None, requires_grad=False)->Tensor此方法的意思是创建一个Coordinate(COO) 格式的稀疏矩阵，返回值也就h是一个tensor稀疏矩阵指矩阵中的大多数元素的值都为0，由于其中非常多的元素都是0，使用常规方法进行存储非常的
转载
2023-11-29 01:25:22
192阅读
项目github地址：bitcarmanlee easy-algorithm-interview-and-practice 欢迎大家star，留言，一起学习进步spark mllib模块中，矩阵的表示位于org.apache.spark.mllib.linalg包的Matrices中。而Matrix的表示又分两种方式：dense与sparse。在实际场景应用场景中，因为大数据本身的稀疏性，spar
转载
2023-12-10 08:39:37
53阅读
# 实现 PyTorch 稀疏连接层的指南
在深度学习中，“稀疏连接层”常用于减少神经网络的参数数量和计算开销。在这篇文章中，我们将通过 PyTorch 实现一个稀疏连接层。我们将分步进行，确保你能理解每个步骤的意义与实现方法。
## 实现流程
首先，让我们看看实现的整体流程：
| 步骤 | 描述 |
|------|------|
| 1 | 安装 PyTorch |
| 2
原创
2024-09-26 07:37:42
259阅读
NumPy系统是Python的一种开源的数值计算扩展。这种工具可用来存储和处理大型矩阵，比Python自身的嵌套列表（nested list structure)结构要高效的多（该结构也可以用来表示矩阵（matrix））。
numpy
一个强大的N维数组对象Array
含  
Fortran 处理稀疏矩阵稀疏矩阵Ax=b在Fortran里面使用稀疏矩阵最基础的是用BLAS（Basic Linear Algebra Subprograms），但是在后来的MKL库中有集成BLAS。如果是解Ax=b的线性方程组，建议使用Pardiso，同样在MKL库中有集成，可以去官网查找资料。 目前查到的除上述表格中的MKL库函数之外，还有SPARSEKIT库函数，但是该库函数是在GNU下
写在开头在前几篇文章中，我们已经深入了解了Scipy库的基础功能和在数值计算、优化、信号处理等领域的应用。本文将进一步探讨Scipy库中的高级功能，专注于稀疏矩阵处理和高级插值技术。这些功能在实际数据分析中具有广泛的应用，能够处理大规模、高维度的数据集，并在空间数据插值等场景中发挥重要作用。1 稀疏矩阵处理1.1 Scipy.sparse 模块简介在数据科学和工程领域，我们常常会面对大规模的数据集
pytorch geometric中为何要将稀疏邻接矩阵写成转置的形式adj_t一开始接触pytorch geometric的小伙伴可能和我有一样的疑问，为何数据中邻接矩阵要写成转置的形式。直到看了源码，我才理解作者这样写，是因为信息传递方式的原因，这里我跟大家分享一下。edge_index首先pytorch geometric的边信息可以有两种存储模式，第一种是edge_index，它的shap
转载
2023-12-21 13:22:10
71阅读
标量简单操作 长度 向量简单操作 长度 其他操作 矩阵简单操作 乘法（矩阵*向量） 乘法（矩阵*矩阵） 范数 取决于如何衡量b和c的长度常见范数矩阵范数：最小的满足的上面公式的值Frobenius范数 特殊矩阵对称和反对称 正
转载
2024-08-15 13:50:15
52阅读
实现稀疏矩阵相乘C/C++ 1、问题描述：已知稀疏矩阵A(m1,n1)和B(m2,n2),求乘积C(m1,n2)。A=|3 0 0 7| B=|4 1| C=|12 17|
|0 0 0 -1| |0 0| |0 -2|
|0 2 0 0| |1 -1| |0 0|
转载
2024-10-09 21:21:23
66阅读
这个问题一直想解决，看了很久都没有想通， Deep Learning（深度学习）学习笔记整理系列之（五） 写的通俗易懂，作为CSDN的博客专家，以后经常拜读他的文章。 Sparse Coding稀疏编码 如果我们把输出必须和输入相等的限制放松，同时利用线性代数中基的概念，即O = a1*Φ1 + a
转载
2017-02-18 18:17:00
258阅读
2评论
在现代深度学习中，稀疏矩阵是处理大规模数据集和高维特征不可或缺的一部分。PyTorch作为流行的深度学习框架，提供了强大的稀疏矩阵处理能力，这使得在计算效率和内存占用方面具有显著优势。本文将探讨如何高效地实现稀疏矩阵乘法，并揭示其在实际应用中的特点。
### 适用场景分析
稀疏矩阵乘法在多个场景中具有广泛的应用，例如推荐系统、自然语言处理以及图神经网络等。以下是具体的场景匹配度分析：
```
1. coo存储方式采用三元组(row, col, data)(或称为ijv format)的形式来存储矩阵中非零元素的信息。 coo_matrix的优点：有利于稀疏格式之间的快速转换（tobsr()、tocsr()、to_csc()、to_dia()、to_dok()、to_lil()；允许重复项（格式转换的时候自动相加）；能与CSR / CSC格式的快速转换 coo_matrix的缺点：不能直
转载
2024-02-04 21:41:53
132阅读
