GSI：GPU-friendly Subgraph Ismorphism——ICDE 2020GPU加速子图同构算法作者： 曾立 邹磊 M. Tamer Özsu 胡琳 张藩论文链接：https://arxiv.org/abs/1906.03420 本次论文讲解的是曾立、邹磊、M. Tam
近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。 模型压缩主要分为如下几类：剪枝（Pruning）知识蒸馏（Knowledge Distillation）量化之前也写过一些文章涉及大模型量化相关的内容。基于LLaMA-7B/Bloomz-7B1-mt复
一、问题描述 3.8号中午1点多，我准备在win10系统下安装第二个版本的cuda，以支持PyTorch1.2 GPU版本的顺利运行。原来的cuda版本是9.0，现在需要安装9.2的。简单搜了两篇博客，尤其其中一篇：，给我带来了很大的误导。。。。。当时看完觉得没什么要特别注意的地方，就下载了cuda然后一路默认安装了下去，安装完毕提示重启系统生
转载
2024-05-06 12:42:26
90阅读
最近学习TensorFlow，被一些不是bug的问题折腾的头晕脑胀，借此写一下解决方法。本人是在win10下使用TensorFlow的，所以ubuntu下的绕行吧，不会出现这些问题。众所周知，TensorFlow在运行时，会抢占所有检测到的GPU的显存，这种做法褒贬不一吧，只能说，但怎么单独设置使用哪几块显卡呢，唯一的方法就是利用CUDA本身隐藏掉某些显卡（除此之外就是拔掉多余显卡了，大家应该不会
转载
2024-03-04 15:13:05
148阅读
本节中我们将展示如何使用多块 GPU 计算，例如，使用多块GPU 训练同一个模型。正如所期望的那样，运行本节中的程序需要至少2块 GPU。事实上，一台机器上安装多块 GPU 很常见，这是因为主板上通常会有多个 PCIe 插槽。如果正确安装了 NVIDIA 驱动，我们可以通过nvidia-smi命令来查看当前计算机上的全部 GPU。In [1]: !nvidia-smiMon Feb 25 19:1
转载
2024-02-22 16:17:09
537阅读
和CPU相比，GPU中包含了大量的并行计算单元，适合处理像素，矩阵，坐标等大量同类型的数据，因此，很多LINUX上的应用程序为了能够利用GPU的加速功能，都试图和GPU直接打交道，因此，系统中可能有多个组件或者程序同时使用GPU，比如桌面系统中OpenGL的实现MESA。这样会带来一个问题，就是多个进程并发访问GPU，如果控制不好，势必会造成系统工作不稳定，为了解决这样的问题，LINUX内核开发者
本文讲一下matlab中的并行方法与技巧，这里我们不涉及GPU加速，主要考虑for循环并行和数据并行。分为以下几个板块：1. 怎么并行？2. parfor vs. SPMD3. 注意事项及经验总结
1. 如何并行？1. Request a number of workers;2. Issue the normal command to run the program. The clien
转载
2024-06-07 10:49:48
465阅读
对于5G手机来说，在应对高速率的5G网络传输以及数据处理速度上，双模5G芯片在热量产生速度上明显要比4G芯片要快很多，为此前不久发布的双模5G手机荣耀V30、红米K30 5G也分别采用了大直径的铜管散热，带来了不错的手机散热体验。同时即将在1月7日正式发布的realme真我X50双模5G手机也带来了全新的散热方案。接下来一起走近对比一下吧。 realme真我X50、红米K30 5G，以
先说结果，我没安装成功NVIDIA的最新驱动，因为我的BIOS上没有切换显卡的设置。但是我觉得有几个需要说的提醒在这里总结一下！ 1、如果你之前在windows上没有装过NVIDIA驱动或CUDA，可以通过这个网站看你的 显卡是否支持CUDA ？2、如果你的深度显卡驱动管理器中没有NV-Prime方案（如 deepin 15.11这个最新版本就删掉了这个方案），那你可以继续往下看。3、先看看你的B
转载
2024-05-08 19:48:41
147阅读
（由于我装的是Ubuntu 12.04 64位 and 32位，我机子是Lenovo Y470，一块集显，一块Nvidia GT 550M，此安装方法验证成功了）1.由于之前刚安装好系统就选择安装了系统推荐的受限驱动。所以得先删除受限驱动。（如果没有装的，可以不执行这个命令）sudo apt-get purge nvidia-current
2.添加bumblebee的源
sudo add-
转载
2024-06-13 17:16:52
160阅读
之前跑大量的深度学习代码时，用的 tensorflow 的版本比较古老，但若直接更新则会使得我们原本大量的代码需要重新编写，才能在本电脑上运行。因此可以选择另一种方式来进行 “更新”：在原基础上，再配置一个 Python 的完整环境，并在里面安装 tensorflow-gpu 2.0.本实现方式参考了网上的一些教程（在文章的末尾有参考链接），并且是建立在安装 Anoconda 的基础上。创建新环境
转载
2024-05-07 11:33:04
84阅读
Ubuntu如何正确地切换Intel和Nvidia显卡现在的笔记本电脑通常有两块显卡：Intel集成显卡和Nvidia（英伟达）独立显卡。这篇教程介绍Ubuntu如何正确地切换Intel和Nvidia显卡。你应该使用哪一个显卡？对于玩游戏或3D制图，图形计算这样对显卡要求高的任务，你需要使用Nvidia独立显卡。如果你既不玩游戏，不绘制3D制图，也不用图形计
转载
2024-03-15 08:37:02
545阅读
目录问题背景1 线程id分布在所有gpu（包括未启用的gpu）上原因：2 在解决这个问题时，可以采取以下步骤： 3 修正深度学习框架默认使用所有可见 GPU 的问题1 TensorFlow：2 PyTorch：3 Keras：问题背景 多GUP训练深度学习模型时指定训练使用的GPU个数，没有指定gpu id，训练在其中两个gpu上执行，
转载
2024-08-27 19:14:57
645阅读
笔记本型号：Thinkpad T14显卡：NVIDIA GeForce MX330显存类型：2GB GDDR5操作系统：ubuntu16.04一、原因ubuntu系统电脑如果有两个显卡：独显和核显，就会出现HDMI没有信号，因为电脑默认使用核显，而HDMI的输出是由独显给的，所以会出现HDMI没有信号的情况。二、解决办法安装自己的独显驱动。显卡驱动安装1.检查自己的显卡驱动型号方法一、 最不费脑子
转载
2024-05-14 19:41:15
1007阅读
第一次记录自己在学习过程中遇到的问题，本意只是做个记录，若是能帮到遇到相同问题的人那自然更好。佛系交流。目前所在学校的计算机系自己搭建了个GPU Farm，设备是GTX 1080 Ti的，看起来还算ok，但其实细究起来还挺鸡肋的。但是总对于数据量巨大的项目，还是需要跑代码吧，将就着用了。因为资源有限，分配到超过1个gpu需要排队，所以从来没尝试过使用多个gpu。最近由于数据量变大，也急于取得进展，
转载
2024-03-25 18:49:34
135阅读
在 Linux 下的多个进程间的通信机制叫做 IPC，它是多个进程之间相互沟通的一种方法。在 Linux 下有多种进程间通信的方法：1.半双工管道、FIFO（命名管道）2.消息队列3.信号4.信号量5.共享内存6.套接字socket等。使用这些通信机制可以为 Linux 下的网络服务器开发提供灵活而又坚固的框架1. 半双工管道管道是一种把两个进程之间的标准输入和标准输出连接起来的机制。管道是一种历
鉴于前文 二分搜索框架详解 的那首《二分搜索升天词》很受好评，并在民间广为流传，成为安睡助眠的一剂良方，今天在滑动窗口算法框架中，我再次编写一首小诗来歌颂滑动窗口算法的伟大： 关于双指针的快慢指针和左右指针的用法，可以参见前文 双指针技巧汇总，本文就解决一类最难掌握的双指针技巧：滑动窗口技巧。总结出一套框架，可以保你闭着眼睛都能写出正确的解法。说起滑动窗口算法，很多读者都会头疼。这个算
转载
2024-06-07 21:01:06
38阅读
笔记本双显卡是怎么产生的 双显卡电脑普遍出现，其实与整合平台CPU是分不开的。随着整合时代的深入，不管是目前AMD平台的APU处理器还是Intel平台的Sandy Bridge与最新的Ivy Bridge架构处理器，其处理内部均集成了性能不错的显卡核心，也就是说随着整合时代的推进，新平台处理器中还集成了显卡，如果电脑再搭配独立显卡，这样就出现了
转载
2023-11-09 17:18:38
1223阅读
YOLOv5 Lite在YOLOv5的基础上进行一系列消融实验，使其更轻（Flops更小，内存占用更低，参数更少），更快（加入shuffle channel，yolov5 head进行通道裁剪，在320的input_size至少能在树莓派4B上的推理速度可以达到10+FPS），更易部署（摘除Focus层和4次slice操作，让模型量化精度下降在可接受范围内）。
1输入端方法1、Mos
转载
2024-07-19 14:07:46
233阅读
YOLOV5转换libtorch(GPU)标准代码最近整理了一些转模型经常碰到的问题让我很是苦恼，在次整理给大家，希望大家少走弯路，早日项目娄底。以下都是在c++中调用libtorch模型时出错。问题总汇我们要怎么确定是不是我们的模型出错了呢？ 一般模型出错都是有窍门的。他一般都会伴随着C10这几个单词来的，要不就是torch::jit。最常见也是最简单的报错error while loading
