前言：应用服务器 （部署接口项目的服务器） 接口代码
然后我接着说道，项目是谁给你部署配置的呀，小梦说是小王部署的，然后今天小王也没来上班；我说道，小王没来上班呀，没事，让我来，我这bug绝缘体质，任何问题遇到我都会退避三舍的。
上面的情景，我相信大家都可能会遇到过的；接下来我们就通过这次排查压测问题来聊聊一个 单体系统本文主线如下图
转载
2024-10-24 18:26:07
29阅读
目录一、更换软件源1、找到并备份配置文件2、 修改配置文件sources.list 3、更新源二、下载显卡驱动及相关安装文件1、下载显卡驱动2、下载CUDA3、下载CUDNN三、开始安装（入坑）之旅（一）显卡驱动run方式安装1、编辑文件blacklist
转载
2024-09-28 19:55:51
2090阅读
Docker化部署(GPU版本)一般DL/ML模型需要使用到GPU资源，如何采用一般docker化部署无法部署深度学习模型和机器学习模型，如何使Docker能够使用到宿主机上GPU资源了，Nvidia 提供Nvidia-docker 如何使容器可以访问到宿主机上GPU资源Nvidia-dockerdocker原生并不支持在他生成的容7器中使用Nvidia GP资源。nvidia-do
转载
2023-07-11 20:18:30
694阅读
# Docker 20 支持 GPU：安装和使用指南
随着深度学习和计算密集型任务的普及，越来越多的开发者和数据科学家开始依赖 CUDA 和 GPU 加速，以提升模型训练和推理的效率。Docker 20 的版本推出了对 GPU 的支持，使得在容器中运行 GPU 计算任务变得更加简单。本文将介绍如何在 Docker 中使用 GPU，并附上相关的代码示例。
## 一、前置条件
在设置 GPU 支
原创
2024-09-16 05:56:04
204阅读
（1）安装nvidia-docker nvidia-docker其实是docker引擎的一个应用插件，专门面向NVIDIA GPU，因为docker引擎是不支持NVIDIA驱动的，安装插件后可以在用户层上直接使用cuda。具体看上图。这个图很形象，docker引擎的运行机制也表现出来了，就是在系统内核之上通过cgroup和namespace虚拟出一个容器OS的用户空间，我不清楚这是否运行在rin
转载
2019-09-07 11:03:00
401阅读
在Kubernetes(K8S)集群中配置Docker GPU是一个常见的需求，特别是对于需要进行大规模并行计算或深度学习任务的应用程序来说。在本文中，我将向你介绍如何在K8S集群中配置Docker GPU，并提供代码示例来帮助你更好地理解整个过程。
整体流程如下所示：
| 步骤 | 操作 |
|-------|-----------------------
原创
2024-05-07 11:42:50
97阅读
nvidia-docker是一个可以使用GPU的docker，nvidia-docker是在docker上做了一层封装，通过nvidia-docker-plugin，然后调用到docker上，其最终实现的还是在docker的启动命令上携带一些必要的参数。因此在安装nvidia-docker之前，还是需要安装docker的。docker一般都是使用基于CPU的应用，而如果是GPU的话，就需要安装特有
转载
2023-08-18 12:07:34
152阅读
STM32的特性及如何学习STM32F1系列均集成了Cortex-M3内核（所谓内核就是指传统意义上的中央处理单元（CPU）,包含运算器、控制器和总线阵列）。它相对于普通的8/16位机有更多的片上外设，更先进的内核架构，可以运行uC/OS等实时操作系统，相对于可运行Linux操作系统的高端CPU，其成本低，实时性强。 1。定时器 ，STM32的定时器外设功能非常强大。可分为基本定时器、通用定时器以
文章目录一、什么是 Cgroup？二、使用 stress 工具测试 CPU 和内存1、stress工具介绍2、使用 Dockerfile 来创建一个 stress 的工具镜像：三、实操1、CPU弹性的加权值--cpu-shares2、--cpu-period、–cpu-quota 控制容器 CPU 时钟周期3、--cpuset-cpus 控制cpu核心数4、 --cpuset-cpus 指定核心
转载
2023-11-07 00:58:20
77阅读
目录前言一、cpu资源控制1.1、cgroups有四大功能1.2、设置cpu使用率上限查看周期限制和cpu配额限制1.2、设置cpu资源占用比（设置多个容器时才有效）1.3 设置容器绑定指定的CPU2、内存资源控制3、磁盘IO配额控制3.1、限制Block IO3.2、限制bps和iops进行限制 前言docker 使用cgrqup控制资源，K8S 里面也有limi
转载
2023-12-13 10:16:00
210阅读
每一个Windows系统中都具有IP路由表，它存储了本地计算机可以到达的网络目的地址范围和如何到达的路由信息。路由表是TCP/IP通信的基础，本地计算机上的任何TCP/IP通信都受到路由表的控制。 理解路由表 你可以运行 route print 或 netstat -r 显示本地计算机上的路由表，如下图所示： C:/Documents and Settings/admi
# Docker配置GPU显存
## 1. 流程概述
在Docker中配置GPU显存需要以下几个步骤：
| 步骤 | 操作 |
|---|---|
| 1. 安装NVIDIA Docker运行时 | 使用命令行安装NVIDIA Docker运行时 |
| 2. 配置NVIDIA运行时 | 修改配置文件以启用NVIDIA运行时 |
| 3. 创建Docker文件 | 创建Dockerfile以
原创
2023-10-31 05:37:32
230阅读
# 如何使用 Docker Compose 配置 GPU
在人工智能、深度学习等领域，GPU 的使用可以显著提高计算效率。使用 Docker Compose 可以更方便地管理和部署包含 GPU 支持的容器。本文将为你提供一个详细的指南，教你如何使用 Docker Compose 配置 GPU。
## 整体流程
下面是配置 GPU 的整体流程：
| 步骤 | 说明
原创
2024-08-07 11:33:53
1209阅读
Docker 是一个非常流行的容器化工具，它可以让我们在应用中使用 GPU 进行计算。然而，配置 Docker 使用 GPU 的过程可能会让人感到困惑。在这篇博文中，我将详细说明如何配置 Docker 使用指定的 GPU ID，以及在这个过程中需要注意的事项。
### 环境准备
在开始之前，确保你的环境已经准备好。以下是安装 GPU 驱动和 Docker 的步骤。
#### 前置依赖安装
目前支持Windows安装的Docker软件主要分为两类：一是基于win10 系统的Docker for Windows，这个只能装在win 10 系统可以用；还有一个就是Docker Toolbox，可以安装在win7，8，10等系统中。本文主要是在Win10下安装Docker for Windows。现在从官网上下载需要注册，但是国内网站注册不了。我在 2018.09.
转载
2023-09-26 15:32:17
69阅读
摘要Docker通过Cgroup来控制容器使用的资源配额，包括CPU、内存、磁盘三大方面，基本覆盖了常见的资源配额和使用量控制。一、Cgroup简介Cgroup是Control Groups的缩写，是Linux内核提供的一种可以限制、记录、隔离进程组所使用的物理资源（如CPU、内存、磁盘IO等待）的机制，被LXC、docker等很多项目用于实现进程资源控制。Cgroup本身是提供将进程进行分组化管
转载
2024-05-17 16:12:07
375阅读
Vulkan是Khronos组织制定的“下一代”开放的图形显示API。是与DirectX12能够匹敌的GPU API标准。Vulkan是基于AMD的Mantle API演化而来，眼下Vulkan 1.0标准已经完毕并正式公布。上一代的OpenGL|ES并不会被遗弃。还会继续发展，非常有可能OpenGL|ES变为Vulkan的简化API。 Vulkan 技术交流 QQ群 175
转载
2024-05-09 15:16:24
65阅读
前言：HDR技术已经广泛用于离线CG渲染、游戏、电影等方面，能够显著的提高场景的对比度和真实感。可是背后的物理学与数学原理却很少有CG艺术家和图形程序开发人员去关注，非常建议大家阅读此文，通晓其中的基本原理。这不是一篇教你如何在GPU上实现HDR的文章。引言 如今大部图形软件都是以24bit颜色为基础，对每个通道占据8bit，以指数运算法则对颜色进行编码。这种方式的优点在于可以和大部分显示器设备
搭建mxnet-gpu docker的pyhon remote kernel 起因最近看mxnet的东西，打算给实验室的机器装一个mxnet的环境，无奈实验室里面机器已经装了tensorflow，运行了好久了，环境比较老。而mxnet可是支持最新的cuda9.1和cudnn7的。研究了一段时间后，发现cuda的docker镜像是个不错的选择。别问我为啥不编译tensorflow以获得cuda
转载
2024-06-08 10:19:32
40阅读
在本博文中，我们将详细阐述如何在Docker环境中配置Ollama以使用GPU的步骤。从环境准备到最终的扩展应用，我们将涵盖所有关键部分，通过高级图表和代码示例使整个过程更加明确和易于理解。
## 环境准备
首先，我们需要确保软硬件环境的要求满足运行Ollama并使用GPU的需求：
### 软硬件要求
- **操作系统**：Ubuntu 20.04 或同等版本的Linux
- **Dock
