今天终于搞到一台带1080独显的PC，之前一直用CPU训练，效率极其低下。训练tensorflow-yolov3这个网络模型，图集400张，4个分类，要训练十多个小时才能看到检出效果，现在可以尝试使用GPU训练了。之前对GPU训练还不太了解，以为要改代码，现在才知道，其实不需要的。关键就是搭建好cuda环境NVIDIA显卡驱动 （https://www.nvidia.cn/Download/ind
转载
2024-04-24 14:09:16
82阅读
CUDA程序优化的最终目的，是以最短的时间，在允许的误差范围内完成给定的计算任务。在这里，“最短的时间”是指整个程序的运行时间，更侧重于计算的吞吐量，而不是单个数据的延迟。在开始考虑使用GPU和CPU协同计算之前，应该先粗略地评估使用CUDA是否能达到预想的效果，包括以下几个方面:1.精度目前，GPU的单精度计算性能要远远超过双精度计算性能，整数乘法、除法、求模等运算的指令吞吐量也较为有限。在科学
转载
2024-04-13 06:09:30
70阅读
一、背景介绍因为google官方bert不支持GPU并行化训练，在git上找了相关的multi gpu的都无法跑起来，内心无比的愤怒，花了几天时间，百度，google,查找各种方法，终于把bert multi gpu 训练成功搞定，以下记录详细各种采坑过程，以便相关同学学习。二、所需要的软件先列出来硬件软件版本 1.centos 7 服务器 两块P40 GPU 2.tensorflow=1.11.
RuntimeError: CUDA out of memory. Tried to allocate 46.00 MiB (GPU 0; 10.76 GiB total capacity; 839.60 MiB already allocated; 24.56 MiB free; 44.40 MiB cached)这个错误花费了一天半左右的时间，心态差点蹦了，还好有神人指导，坚持下来了。错误问题
转载
2023-11-10 17:00:24
65阅读
本文使用的是SSD+机械安装双系统，先安装Win10，然后是Ubuntu18.04，显卡是Nvidia 2080TI1. Win10,Ubuntu18.04双系统安装见我另一篇博客2.安装显卡驱动如果只想在Windows下玩深度环境的可以看我另外一篇博客删除系统自带的不适配的NVIDIA驱动sudo apt-get purge nvidia-*安装完毕后，通过命令行方式禁用自带的驱动：sudo v
转载
2024-07-20 07:33:49
166阅读
1、 在WIN10编译GPU版本的caffe详见本人其他博客【Caffe-GPU】Caffe+Python3+CUDA8+CUDNN5+win10+VS2015+Mnist 配置2、 caffe编译所得如果在第一步中正常编译了caffe，将在 caffe/build/tools/Release 等目录下生成很多有用工具，如图所示， 其中，caffe.exe用于训练，compute_image_me
在CES期间，Intel揭晓了旗下首款独显，样卡暂名“DG1”。关于DG1，由于公布的信息有限，外界仍急于了解其规格参数、游戏性能等。经查，在GeekBench 5上，已经有一批96个EU单元、4GB显存Gen 12核心产品的OpenCL分数公布。仔细观察可知，这款GPU是基于Xe架构的独立显卡。频率方面，最低1GHz，最高1.5GHz。仅从OpenCL分数横线对比来看的话，基本接近GTX 105
双系统的安装教程有很多了，我参考的是这一篇文章，内容非常详细。 本次是在Win10的基础上安装Ubuntu18.04，所以选择文章中的18.04版本的教程。大部分步骤均按照教程的步骤来即可，有一些与教程有一点出入的地方我记录下来，以备下次使用。与教程不一致的点：一、在 “三、在windows下创建空白分区” 这一步中，我的实践与作者的图片有一些的不一致： 我是双硬盘的电脑，在对磁盘0进行分区（压缩
目录UBUNTU 18.04 安装步骤（win10双系统, 双硬盘）UBUNTU 常用指令deb安装包用法（dpkg语句用法）如何打开文本文件（gedit, vim)如何获取ROOT权限文件管理器如何获取usr文件夹的读写权限如何更新源显卡驱动禁用nouveau显卡驱动卸载NVIDIA驱动查看NVIDIA版本/检验卸载是否完成/安装是否成功安装NVIDIA驱动CUDA, CUDNN（可不装）下载
转载
2024-05-06 17:04:25
110阅读
1.前言 本文重点在于安装tensorflow，鉴于在安装双系统还有很多小白，我在这把详细的图文教学贴上。目前在研究深度学习的东西，刚入门，想先拿自己的破电脑搭建一个gpu版本的tensorflow用于跑相对简单点的网络。博主的电脑配置很垃圾的，是自己很久前组装的电脑。GPU:Nvidia Geforce 760M·2G;8G内存。本文化包含了Ubuntu系
转载
2024-07-24 08:51:32
75阅读
这个GPU安装好之后我也不知道我电脑的改变是什么，不过这个过程简直了，因为我是双系统装GPU所以比较麻烦，现在总结一下我的心路历程：首先声明一下我的电脑配置是win10+ubuntu 16.04我首先使用Nvidia光盘将win10系统中安装上GPU驱动，这里就不在贴步骤，就按照光盘上的步骤一步一步来，光盘上有专门为win10准备的驱动程序，只要选择就可以，win10上GPU驱动安装完成。第二步：
转载
2023-10-26 11:33:30
117阅读
#CNN训练相关细节记录学习CNN结构搭建、训练、模型实现等过程中遇到的问题。更新于2018.10.18。更多内容，欢迎加入星球讨论。 文章目录超参数确定方法学习率Batch SizeCaffe | Solver / Model Optimization损失计算判断网络是否收敛（Converge）Caffe中的神经网络Softmax、Softmax Loss和Cross-Entropy Loss
前言随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。来源于哔哩哔哩博主“霹雳吧啦Wz”，博主学习作为笔记记录，欢迎大家一起讨论学习交流。一、搭建EfficientNet网络示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、代码部分1.module.py----定义EfficientNet的网
转载
2024-10-20 18:14:31
70阅读
2021SC@SDUSC 量化 将一张 uint8 类型、数值范围在 0~255 的图片归一成 float32 类型、数值范围在 0.0~1.0 的张量，这个过程就是反量化。类似地，我们经常将网络输出的范围在 0.0~1.0 之间的张量调整成数值为 0~255、uint8 类型的图片数据，这个过程就是量化。所以量化本质上只是对数值范围的重新调整。可以明显看出，反量化一般没有信息损失，而量化一般
转载
2024-10-12 09:17:53
119阅读
1 目的：在win10上安装python环境在GPU上运行tensorflow程序，先读我写的文章来理解这套东西的原理，然后可以按照“参考网址”中带图片解释的方法进行安装。2 概要:（所有要安装的东西）1 python环境 2 显卡GPU驱动 3 cuda 4 cudnn 5 python库 tensorflow-gpu 6 注意：以上5个东西都是有自己的版本的，必须保证把安装的版本是相互匹配的，
转载
2024-05-07 16:55:41
35阅读
（2017年）百度将高性能计算引入深度学习：可高效实现模型的大规模扩展RingAllreduce；适用于单机多卡/多机多卡；关键在于认识到机器硬件拓扑，然后根据拓扑去构建使得最大的边延迟最小的方案；（Step1, Step2, Step3那种AllReduce，在多机通过交换机互联情况下，也可以和机器数目无关）；最后再进行5轮类似的传输，所有GPU上就都有了各段之和； NCCL是最快的！
首先，让我们来看看市面上有哪些双核心手机处理器。提到双核，可能大家首先想到的就是nVIDIA的Tegra 2。作为业界新人，nVIDIA必须要有一些别人不具备的优势，才能站稳脚跟，而nVIDIA选择的优势就是速度。Tegra 2是一款早在2010年1月就发布的双核手机处理器，为nVIDIA赚足了眼球，甚至俨然成了双核的代名词。Tegra 2是nVIDIA在ARM SoC领域的第二款作品，由于第一款
转载
2024-10-28 08:25:21
69阅读
文章目录1 导包2 数据准备3 生成器模型4 判别器模型5 编写损失函数，定义优化器6 获取模型&定义训练批次函数7 定义可视化方法8 主训练方法9 开始训练10 训练结果 生成对抗网络系列【生成对抗网络】GAN入门与代码实现（一）【生成对抗网络】GAN入门与代码实现（二）【生成对抗网络】基于DCGAN的二次元人物头像生成(TensorFlow2)【生成对抗网络】ACGAN的代码实现上篇
转载
2024-09-23 07:07:36
41阅读
作为一名深度学习训练小白，想上github下一个一般的网络练练，但是每次千辛万苦地配置好环境，成功运行，没开始几步，就提示显存不够！上网一搜一大堆教程，改小batchsize，清理冗余参数，，，全都尝试了一通，但是这些方法都改变不了我电脑太拉的事实。对于新手来说，为了能够正常运行程序，通过云服务器进行训练是一个性价比还不错的方法。话不多说我们上干货！【免费网站google colab】优点：1
转载
2024-05-09 19:46:27
47阅读
AI开发现状从过去AlphaGo在职业围棋中击败世界冠军，到现在大火的自动驾驶，人工智能(AI)在过去几年中取得了许多成就。其中人工智能的成功离不开三要素：数据、算法和算力。其中对于算力，除了训练(train)，AI实际需要运行在硬件上，也需要推理(inference)，这些都需要强大算力的支撑。AI训练硬件平台：GPU、CPU、TPU常见的模型训练硬件平台主要有：GPU、CPU和TPU。CPU（
转载
2024-04-20 21:44:11
475阅读
