一、使用公共镜像docker有一个开源的镜像管理系统，上面有很多常见的images，如mysql，nginx，tomcat等，可以直接根据自己的需求下载下来用，还有系统images，如redhat，ubuntu，unix，windows等先下载一个mysql来玩玩：1、查询跟mysql有关的镜像：#docker search mysql这里我们使用第一个mysql镜像，镜像是可以指定版本来下载的：
转载
2024-10-17 21:46:21
248阅读
（1）拉取一个新的centos镜像docker pull centos:7.2（2）运行一个容器，准备安装必要的环境docker run --privileged -p 8888:6817 -p 8889:6818 --dns 8.8.8.8 --dns 8.8.4.4 -h controler --name slurm_control -i -t -v /containe
转载
2023-08-31 22:24:39
111阅读
Docker安装步骤# step 1: 安装必要的一些系统工具
sudo yum install -y yum-utils device-mapper-persistent-data lvm2
# Step 2: 添加软件源信息
sudo yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/
转载
2024-05-08 11:31:11
91阅读
基于 Docker 的 Slurm 作业管理系统阿里云服务器设置参考视频：https://www.bilibili.com/video/BV177411K7bHStep 1 -申请阿里云服务器可以免费申请一个月的阿里云主机，我这里申请了一个月的1核2G的云服务器，带宽4M系统盘40G，安装的系统是 CentOS 8.4 64位版本。Step 2 - 修改实例进入云服务器 ECS 后 点击正在运行中
转载
2023-07-17 11:04:58
118阅读
名词解析容器 容器的实质是进程，但与直接在宿主执行的进程不同，容器进程运行于属于自己的独立的命名空间。因此容器可以拥有自己的root 文件系统、自己的网络配置、自己的进程空间，甚至自己的用户ID 空间。容器内的进程是运行在一个隔离的环境里。镜像(Image) 封装了应用程序及其依赖的“包”。仓库(Repository) 就好像软件包上传下载站，是存放镜像的地方。Linux安装启动命令sudo ap
转载
2023-08-04 23:39:58
141阅读
一、安装Docker官方安装文档：https://docs.docker.com/engine/install/centos/参考官方文档的简化安装过程：步骤1：卸载（保证系统中不包含docker）sudo yum remove docker \
docker-client \
docker-client-latest \
转载
2023-10-18 21:58:05
56阅读
1.Docker的安装1.安装依赖包sudo yum install -y yum-utils device-mapper-persistent-data lvm22.设置阿里云镜像源sudo yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo3.安装 Dock
转载
2024-06-18 21:19:27
37阅读
# Docker Ubuntu Slurm集群搭建
## 简介
Slurm是一个开源的用于高性能计算集群管理和作业调度的软件。本文将介绍如何使用Docker和Ubuntu来搭建一个Slurm集群，并提供一些代码示例供参考。
## 准备工作
在开始之前，我们需要安装Docker和Ubuntu。请根据官方文档下载和安装这两个软件。
## 架构设计
我们的Slurm集群将由一个控制节点和多个
原创
2023-08-24 05:03:41
1556阅读
常见操作指令：1. docker容器操作指令
1.1 获取镜像(ubuntu为例)
docker pull ubuntu
1.2 启动容器
docker run -it ubuntu /bin/bash
-i:交互式操作;
-t：终端;
ubuntu:ubuntu镜像；
转载
2023-10-09 13:26:25
108阅读
查看作业状态 查看当前用户的作业状态，可以使用如下命令： squeue 例如： JOBID PARTITION NAME USER ST TIME NODES NODELIST(REASON) 33762 normal nstest1 wangwu R 0:03 2 h05r4n[15-16] 参数 ...
转载
2021-08-25 12:15:00
343阅读
SLURM (Simple Linux Utility for Resouce Management)非常成熟的开源社区集群批处理调度系统。介绍2008年左右起源于LLNL实验室, 最新版本20.11开源软件(约50万行c源码)，开发和发布一直活跃用户群: Top10里有5家使用(天河HPC是其一)商业公司SchedMD提供顾问咨询服务完善的插件为用户提供较便利的扩展功能特点:结构清晰、功能丰富、
转载
2024-08-13 15:29:47
276阅读
Motivation之前从来没有用过集群，跑代码都是用单独的服务器，第一次上手组里的集群懵逼了一天。中文的博客大部分都写的很一般，有些我想知道的问题也找不到答案。所以就想着，自己一遍学习一边记录一下，做成一个入门的介绍，方便自己和其他新入门的朋友查看。查看节点状态sinfo输出参数的含义PARRITION：节点所在分区
AVAIL：分区状态，up 标识可用，down 标识不可用
TIMELIMIT
转载
2024-05-29 07:08:30
1217阅读
关于 Docker 的命令可参考：学习 Docker 的常用命令一篇文章就够了注意docker的应用部署，一定要注意端口的映射，特别是 jdk 容器 具体可见： 文章目录一、Docker 部署 Mysql二、Docker 部署 Tomcat三、Docker 部署 Nginx四、Docker 部署 Redis 一、Docker 部署 Mysql（1）拉取mysql镜像：docker pull cen
转载
2024-07-01 10:57:45
170阅读
slurm0.Pytorch环境问题1.slurm作业管理系统2.sinfo查看系统资源3.squeue查看作业状态4.srun交互式提交作业5.sbatch后台提交作业6.salloc分配模式作业提交7.scancel取消已提交的作业8.scontrol查看正在运行的作业信息9.sacct查看历史作业信息10.xxx.slurm作业模版11.关于联网12.Linux 常用命令13.官网手册14
转载
2024-01-12 11:33:49
379阅读
# 实现SLURM集群
## 简介
SLURM（Simple Linux Utility for Resource Management）是一个开源的集群管理系统，用于Linux集群的资源管理和作业调度。通过SLURM，可以很方便地管理计算集群上的作业任务，实现资源的合理分配和调度。
## 流程
下面是实现SLURM集群的主要步骤：
| 步骤 | 描述 |
| ---- | ---- |
|
原创
2024-05-27 10:21:12
131阅读
在高性能计算（HPC）环境中，Slurm（Simple Linux Utility for Resource Management）架构是一个关键的资源管理和调度系统，它为用户提供了高效的作业管理功能。本文将详细探讨 Slurm 架构的解决方案，涵盖从背景描述到技术原理、架构解析、源码分析、性能优化到应用场景的各个方面。
## 四象限图概述
在了解 Slurm 架构之前，我们首先要认识到它在高性
提交交互式任务交互式任务是一种特殊的队列任务，在该模式下，用户可以直接登录到计算节点，此后 所有的操作都在这个节点上进行。这个功能主要是方便用户在服务器上调试程序， 以便能够实时看到程序的输出。 我们需要使用 salloc 命令来分配交互式任务所需的资源，它的语法为$ salloc [申请资源]其中，用户需要以选项的方式指定申请的资源，这些选项与 SLURM 脚本中的选项基本 相同。常用选项为：-
转载
2024-06-06 10:39:24
1434阅读
以下这段文字翻译自技术大牛Brendan Gregg和Jim Mauro 2011年的著作：《DTrace: Dynamic Tracing in Oracle Solaris, Mac OS X and FreeBSD》第三章《System View》里关于CPU利用率的一个介绍（56页）。个人觉得写得很清晰，就把它翻译出来，希望能让更多人对CPU利用率有正确的理解。翻译有错之处，还希望大家批评
转载
2024-05-25 12:52:19
58阅读
Slurm配置文件配置文件示例slurm.conf是Slurm的核心配置文件，它描述了一般的Slurm 配置信息、要管理的节点、有关 如何将这些节点分组到分区中，以及各种调度 与这些分区关联的参数。该配置文件在群集中的所有节点上保持一致。如果修改了slurm.conf相关配置文件，诸如slurmctld端口等，需要使用scontrol reconfigure重新配置。（注意：slurm.conf是
转载
2024-04-04 12:11:06
1378阅读
编写Slurm脚本#!/bin/bash
#SBATCH -J test # 作业名是 test
#SBATCH -p cpu # 提交到 cpu 分区
#SBATCH -N 1 # 使用一个节点
#SBATCH --cpus-per-task=1 # 每个进程占用一个 cpu 核心
#SBATCH -t
转载
2024-06-05 10:28:45
211阅读
