目录0. 前言1. Linux线程概念1.1 什么是线程1.2 线程的优点1.3 线程的缺点1.4 线程异常1.5 线程用途2. Linux进程VS线程2.1 进程和线程2.2 进程的多个线程共享2.3 关于进程线程的问题3. Linux线程控制3.1 POSIX线程库3.2 创建线程3.3 等待进程3.4 线程终止 3.5 分
一、前言 本文介绍CUDA编程的共享内存和同步。共享内存中的变量（核函数中用__shared__声明），在GPU上启动的每个线程块，编译器都创建该变量的副本，若启动N个线程块，则有N个该变量副本，为每个线程块私有；同步则是使线程块中所有的线程能够在执行完某些语句后，才执行后续语句。二、线程块、线程索引以下为线程块与线程的层次结构图 &
转载
2024-04-26 14:51:10
1357阅读
9. CUDA shared memory使用------GPU的革命序言：明年就毕业了，下半年就要为以后的生活做打算。这半年，或许就是一个抉择的时候，又是到了一个要做选择的时候。或许是自己的危机意识比较强，一直都觉得自己做得不够好，还需要积累和学习。或许是知足常乐吧，从小山沟，能到香港，一步一步，自己都比较满足，只是心中一直抱着一个理想，坚持做一件事情，坚持想做点事情，踏踏实实，曾经失败过，曾经
转载
2024-05-26 20:16:26
0阅读
1. CUDA的内存模型每个线程有自己的私有本地内存(local memory) ， 每个线快有包含共享内存， 可以被线程块中所有线程共享，其声明周期与线程块一致。此外，所有的线程都可以访问全局内存（global memory） 还可以访问一些只读内存块： 常量内存(Constant Memory)和纹理内存（Texture Memory).2. GPU的核心组件 – SM（Streaming M
转载
2024-03-04 21:49:01
1987阅读
写作本文的起因，是我作为一个新手，在看单机多GPU的tensorflow代码时，看到了一段很费解的代码，完整代码戳这里。因为不懂VariableScope和NameScope的作用和区别，看着这段好多个with的代码觉得非常乱。所以这里记录下自己的分析过程（笔记来的，散了吧）：......
from tensorflow.contrib import layers
from tensorflow.
转载
2024-06-18 07:39:29
1710阅读
# 深度学习中的GPU内存：专用GPU内存与共享GPU内存
深度学习模型的训练往往需要大量的计算资源，其中使用GPU（图形处理单元）是最常见的选择。GPU能够并行处理大量数据，为深度学习模型的训练提供加速。本文将探讨专用GPU内存和共享GPU内存的概念及其在深度学习中的重要性，并附上相应的代码示例。
## 专用GPU内存
专用GPU内存（或称为显存）是指专门为GPU分配的内存。它速度极快，能
Android 平台在运行时不会浪费可用的内存。它会一直尝试利用所有可用内存。例如，系统会在应用关闭后将其保留在内存中，以便用户快速切回到这些应用。因此，通常情况下，Android 设备在运行时几乎没有未使用的内存。为了在重要系统进程和许多用户应用之间正确分配内存，内存管理至关重要。本页讨论了 Android 如何为系统和用户应用分配内存的基础知识，另外还说明了操作系统如何应对低内存情况。内存类型
LInux DRM Developer Guidehttp://www.landley.net/kdocs/htmldocs/drm.html#drmIntroductionLinux GPU Driver Developer’s Guidehttps://www.kernel.org/doc/html/latest/gpu/index.html / 总
ue4中经常会遇到烘焙失败的问题，有的显而易见，有的则不那么容易被发现。这里记录一下工作中遇到的烘焙失败问题，希望在以后遇到类似的问题能作为参考。首先看下ue4官方文档对烘焙的解释内容烘焙 虚幻引擎将内容资源存储为在其内部应用的特殊格式，比如贴图数据存储为PNG格式， 或者音频存储为WAV格式。但是，针对不同平台，这些内容需要转换成各种格式， 这是因为该平台使用专有的格式，不支持虚幻引擎使用的存
转载
2024-10-20 08:31:00
153阅读
一、概念
共享内存：允许在系统内两个或多个进程共享同一块内存空间，并且数据不用在客户进程和服务器进程间复制，因此共享内存
是通信速度最快的一种IPC。
实现机制：一个进程在系统中申请开辟一块共享内存空间，然后使用这个共享内存空间
转载
2024-08-06 21:01:02
215阅读
8月25号(周日)下单了2019款mbp15inch高配版，8月30号(周五)电脑到达楼下丰巢快递柜。29日由于头晕，早早睡了，后面三晚在家里给新电脑装软件，配置电脑的开发环境。 以下记录，配置开发环境遇到了一些问题：显卡的疑惑概览中显卡显示的是核显1g显存，但是我下单的时候选的是集显Radeon Pro 555X 4g显存，发错货了？我随后看了系统报告里，是有两块显卡的，包
GPU一些概念总结记录一些自己理解的GPU相关知识，口语化多一些，有助于理解。引子电脑中一般会说集成显卡还是独立显卡，实质是GPU的区别。集成显卡是使用INTEL的GPU，而独立显卡是使用额外的GPU。都知道GPU是处理图像的，生活中需要好一点的GPU是一般在打3D游戏时，使用PS做图时。你加上带有高级GPU的独立显卡后，怎么就可以使用上了呢？一般在Windowns下接上独立显卡后是需要装驱动，那
转载
2024-03-22 19:53:27
563阅读
本文大多数内容来源于-张舒GPU内存GPU的内存结构和CPU类似，但也存在一些区别，GPU的内存中可读写的有：寄存器(registers)、Local memory、共享内存（shared memory）和全局内存（global memory），只读的有：常量内存（constant memory）和纹理内存（texture memory）。 每个线程都有独立的寄存器和Local memory，同一
转载
2024-03-08 16:48:38
597阅读
我们搜集整理了国内外主要的深度学习云服务商，包括云GPU供应商、WebApp托管商和MLOps平台商。推荐：用 NSDT编辑器 快速搭建可编程3D场景1、云GPU供应商只有一台笔记本电脑?不足以运行你的AI模型，忘记它吧，使用云 GPU ☁️ 更快、更便宜地训练你的模型，因为下雨了 ? 云 GPU云供应商定价免费政策Google Colab ❤️免费永久免费*Kaggle Kernels免费永久免
三种内存AGP内存(非本地显存)，显存(本地内存)，系统内存，其中我们都知道系统内存就是咱那内存条，那这AGP内存是个啥玩意啊？其实是因为在以前显卡内存都很小，那时还是在显存是16M，32M为主流的时候，如果你运行一个需要很多纹理的3D程序，那么显存一会就不够用了，那该咋办呢？只好问系统内存借点用用了！这就是AGP内存的由来，在我们电脑BIOS中有个设置AGP Aperture的选项，这
转载
2024-05-30 10:25:44
387阅读
内存利用率有多个命令提供有关系统内存利用率的相关信息。最流行的是free 和pmap。free命令free 命令显示可用的物理内存量，其中包括总物理内存量、已用物理内存量、可用物理内存量。它也为交换空间显示同样的统计信息，还显示内核使用的内存缓存大小和缓冲区的大小。图7-5 显示了在中等负荷的操作系统上运行free 命令的一个例子。 图7-5：free命令图7-5 是来自于Ubuntu
英文原文：Cache is the new RAM
这是一次在 defrag 2014的演讲。 这是经过长时间地多次技术变革后的（多个）技术优势之一。你看到了实际上突破。如果你只是看到了其中的一部分，很难正确推断。你要么短期有进展，要么落后很远。令人惊讶的不是事物变化的速度，而是一点一滴长期工程实践的突破。这是史端乔交换机，一个自动连接电话线路设备，在1891年发明的
转载
2024-09-29 13:57:29
118阅读
共享单车、共享充电宝、共享雨伞，世间的共享有千万种，而我独爱共享内存。早期的共享内存，着重于强调把同一片内存，map到多个进程的虚拟地址空间（在相应进程找到一个VMA区域），以便于CPU可以在各个进程访问到这片内存。 现阶段广泛应用于多媒体、Graphics领域的共享内存方式，某种意义上不再强调映射到进程虚拟地址空间的概念（那无非是为了让CPU访问），而更强调以某种“句柄”的形式，让大家
转载
2024-08-06 14:07:02
1071阅读
0 序言memory是cuda中很重要的知识点，通常和高性能有关系，你利用的好memory的一些特性就能实现很多高性能的场景。主要对pinned memory、global memory、shared memory进行介绍，其他不常用。pinned memory通常指host memory主机内存，global memory 和shared memory属于GPU的内存。下表是Device内存的类
转载
2024-01-28 00:58:35
934阅读
6月22日，浪潮在ISC20大会期间发布支持最新NVIDIA Ampere架构A100 PCIe Gen4的AI服务器NF5468M6和NF5468A5，为AI用户提供兼具超强性能与灵活性的极致AI计算平台。浪潮AI服务器NF5468M6得益于敏捷而强大的产品设计开发能力，浪潮在业界最早实现了对NVIDIA Ampere架构GPU的快速跟进，并构建起完善且富有竞争力的新一代AI计算平台，能够通过N
转载
2024-05-03 09:42:27
341阅读
