一、CPU内存●现代计算机体系结构面临的主要挑战 ✓如果数据无法快速移入和移出，那么快速计算将毫无意义 ✓需要大量内存用于大型应用程序 ✓非常快的内存也非常昂贵 ●最终被推向分层设计（1）CPU内存层次结构 ●执行速度依赖于利用数据局部性 ✓时间局部性：刚刚访问的数据项很可能在不久的将来再次使用，因此请将其保留在缓存中 ✓空间局部性：相邻数据也可能很快被使用，因此加载 它们使用“宽”总线（如多车道
转载
2024-05-29 00:38:03
398阅读
GPU事务性内存技术研究林玉哲1,2, 张为华1,21 复旦大学软件学院，上海 2012032 上海市数据科学重点实验室，上海 201203论文引用格式：林玉哲,张为华.GPU事务性存储器研究[J].大数据, 2020, 6(4): 3-17.LIN Y Z, ZHANG W H.A research on GPU transactional me
转载
2024-08-01 07:31:56
125阅读
Caffe的GPU部分学习这里需要用到NVIDIA的CUDA的接口，不做详细描述，具体查看NVIDIA的官方说明，只讲解caffe的GPU单卡的基本逻辑。GPU相关的初始化GPU设备的指定，并创建cublas和curand的句柄，分别用于矩阵运算和随机数生成。通过Caffe::SetDevice()函数调用完成。内存管理初始化。每个带有weight和bias blob的gpu内存管理初
转载
2024-05-14 12:19:50
43阅读
Win32的堆分配函数 每一个进程都可以使用堆分配函数创建一个私有的堆──调用进程地址空间的一个或者多个页面。DLL创建的私有堆必定在调用DLL的进程的地址空间内，只能被调用进程访问。HeapCreate用来创建堆；HeapAlloc用来从堆中分配一定数量的空间，HeapAlloc分配的内存是不能移动的；HeapSize可以确定从堆中分配的空间的大小；HeapFree用来释放从堆中分配的空间；He
GPU的内存系统GPU内存详解GPU的存储系统包括 register，shared memory，texture memory， local memory， global memory寄存器 共享纹理 纹理内存 局部内存 全局内存registershared memorylocal memoryglobal memoryconstant memorytexture memory主机访问权限否否否读
转载
2024-03-16 01:46:22
58阅读
我们谈到GPU相比CPU有更大的内存带宽，此言不虚，这也是众核GPU有源源不断数据弹药供给，能够发挥强大算力的主要原因。在先前的文章中我们谈到GPU相比CPU有更大的内存带宽，此言不虚，这也是众核GPU有源源不断数据弹药供给，能够发挥强大算力的主要原因。如下表所示(GDDR和HBM都是GPU的显存规格)，基本上GPU的内存带宽要比CPU多一个数量级。 但是考虑到GPU运算核心的数量，平均下来显存带
转载
2024-04-20 22:53:26
94阅读
MMU即内存管理单元(Memory Manage Unit），是一个与软件密切相关的硬件部件，也是理解linux等操作系统内核机制的最大障碍之一。可以说，不懂MMU使很多人一直停滞在单片机与无OS的时代。博主之前对MMU也一直是雾里看花，似懂非懂。最近终于自认为云开雾散后，回头总结，感觉有几个概念是阻碍人们理解MMU的元凶。 1）虚拟地址/物理地址MMU，CPU内部执行单元产生的内
windows10+ubuntu18.04+pytorch配置全过程总结目录一、安装ubuntu二、安装anaconda三、安装python四、安装opencv五、安装pycharm六、安装nvidia七、配置pytorch环境我的环境 我的处理器是 AMD Ryzen 7 4800H with Radeon Graphics 2.90 GHz 显卡是GeForce RTX 3060一、安装ubu
转载
2024-07-12 07:42:20
175阅读
最近在学习内存管理的时候，发现对linux下的所谓内存如何管理如何分配都不熟悉，通过最近的查阅资料可总结如下，如有不妥之处欢迎大家批评与指正。总的的来说linux的内存管理其实主要难理解的是以下几个部分：1、虚拟地址、物理地址、线性地址、逻辑地址之间的区别。2、用户地址空间与内核地址空间区别。3、内核如何分配所谓的地址。4、一个可执行程序的地址分布以及运行地址分配。目前我也大概总结这几个，其实这方
内存管理单元 —— MMU，一种内存管理方式的升级
原创
2022-06-21 11:07:40
335阅读
现代操作系统普遍采用虚拟内存管理（Virtual Memory Management）机制，这需要处理器中的MMU（Memory Management Unit，内存管理单元）
转载
2023-05-12 00:26:27
172阅读
在使用MMU之前（memory management unit）,cpu操作的都是实际的物理地址，在使用MMU之后，CPU发出的都是VA（virtual address），由进程管理转换VA为MVA（modified virtual address），供cache和MMU使用，最后在转换成PV（physical address）用来读写直接的设备。
原创
2014-06-20 14:38:53
2432阅读
这里简要说明如下：一、4GB地址空间的局限首先我们还必须要先了解两个概念：其一是“物理内存”。大家常说的物理内存就是指安装在主板上的内存条，其实不然，在计算机的系统中，物理内存不仅包括装在主板上的内存条(RAM)，还应该包括主板BIOS芯片的ROM，显卡上的显存(RAM)和BIOS(ROM)，以及各种PCI、PCI-E设备上的RAM和ROM。其二是“地址空间”。地址空间就是对物理内存编码(地址编码
转载
2024-09-29 16:13:13
90阅读
# Python查看默认GPU是否分配内存
## 简介
在进行深度学习任务时，我们通常会使用GPU来加速计算，但有时我们会遇到GPU没有正确分配内存的情况。本文将介绍如何使用Python来查看默认的GPU是否分配了内存，并提供操作步骤和代码示例。
## 流程图
```mermaid
flowchart TD
A[开始] --> B[导入必要的库]
B --> C[获取GPU信息
原创
2023-10-23 11:09:09
65阅读
1 tensor【创建tensor】
a = t.Tensor(2, 3)：指定tensor形状
a = t.Tensor((2, 3))：创建一个元素为2和3的tensor
x = t.Tensor([[1,2],[3,4]])：用list数据创建tensor
b.tolist()：把tensor转为list
c = t.Tensor(b_size)：创建一个和b形状一样的tensor，系统不会
转载
2024-10-09 15:23:01
31阅读
DXVA是视频硬件加速的统称，不仅仅是视频数据解码(包括H261，MPEG1，MPEG2,H263,MPEG4), 还有Alpha
blending, Picture
resampling等。但对于播放时CPU利用率影响最大的，则是视频解码，尤其是HDTV的解码。对于低端系统来说，让GPU来负责硬件解码是不二之
选。但使用硬件解码，在整个功能上
在计算机早期的时候，计算机是无法将大于内存大小的应用装入内存的，因为计算机读写应用数据是直接通过总线来对内存进行直接操作的，对于写操作来说，计算机会直接将地址写入内存；对于读操作来说，计算机会直接读取内存的数据。 但是随着软件的不断膨胀和移动应用的到来，一切慢慢变了。 我们想要手机既能够运行微信，同
原创
2022-05-03 18:07:18
374阅读
内存管理我的理解是分为两个部分，一个是物理内存的管理，另一个部分是物理内存地址到虚拟地址的转换。物理内存管理内核中实现了很多机制和算法来进行物理内存的管理，比如大名鼎鼎的伙伴系统，以及slab分配器等等。我们知道随着Linux系统的运行，内存是不断的趋于碎片化的，内存碎片分为两种类型，一种为外碎片，所谓外碎片就是以页为单位的内存之间的碎片化，另一种为内碎片，内碎片是指同一个页面内的碎片化，那么如果
文章目录（一）管道与共享存储映射对比管道共享存储映射(存储I/O映射)（二）mmap函数使用普通文件进行存储映射匿名内存映射（三）mmap文件大小和映射空间大小文件大小等于映射区大小的情况文件大小远小于映射区大小的情况（四）父子进程存储内存映射的地址分布 mmap是一种内存映射文件的方法，即将一个文件或者其它对象映射到进程的地址空间，实现文件磁盘地址和进程虚拟地址空间中一段虚拟地址的一一对映关系
转载
2024-01-03 21:22:53
30阅读
最后一部分是关于native heap，.dex，/dev/other的优化。 Native Heap分析和优化 android的DDMS可以帮助查看c++ native heap的使用，但需要一定的配置，而且必须是root的手机。在~/.android/ddms.cfg增加"native=true"。这样子ddms才会有native heap的tab。指向下面adb命令打开malloc的deb
转载
2024-07-30 21:27:34
50阅读
