引言 目前接触到的并行处理框架主要有MP、MPI、CUDA以及MapReduce(Hadoop、Spark)。MPI和MapRedcue(Hadoop、Spark)都可以在集群中运行，而MP因为共享存储结构的关系，不能在集群上运行，只能单机。另外，MPI、Spark让数据保留在内存中，可以为节点间的通信和数据交互保存上下文，所以能执行迭代算法，而Hadoop却不具有这个特性。因此，需要迭代的机器
转载
2024-01-11 10:06:16
184阅读
多核编程 简单来说，由于现在电脑CPU一般都有两个核，4核与8核的CPU也逐渐走入了寻常百姓家，传统的单线程编程方式难以发挥多核CPU的强大功能，于是多核编程应运而生。按照我的理解，多核编程可以认为是对多线程编程做了一定程度的抽象，提供一些简单的API，使得用户不必花费太多精力来了解多线程的底层知识，从而提高编程效率。这
原创
2023-06-04 01:46:55
836阅读
一、线程与进程的区别线程就是轻量级的进程，是程序执行的最小单位。使用多线程而不是用多进程去进行并发程序的设计，是因为线程间的切换和调度的成本远远小于进程。线程的生命周期 1、NEW状态：刚刚创建线程，线程还没开始执行。调用start（），线程开始执行 2、RUNNABLE状态：表示线程所需的一切资源已经准备好了。 3、BLOCKED状态：如果线程在执行过程中遇到了synchronized同步块，就
转载
2024-06-16 13:20:17
42阅读
文章目录Linux_centos7.9 并行软件openmpi编译安装调用一、★OpenMPI定义二、★安装环境说明三、★OpenMPI编译安装3.1 GNU编译默认安装方式3.2 GNU编译绑定C++和FORTRAN方式3.3 Intel编译器默认安装方式3.4 Intel编译绑定C++和FORTRAN方式四、★Openmpi环境加载4.1 个人主机环境4.2 HPC集群环境五、★Openmp
转载
2024-03-11 07:00:58
280阅读
1.OpenMPOpenMP是一种用于共享内存并行系统的多线程程序设计的库(Compiler Directive),特别适合于多核CPU上的并行程序开发设计。它支持的语言包括：C语言、C++、Fortran；不过，用以上这些语言进行程序开发时，并非需要特别关注的地方，因为现如今的大多数编译器已经支持了OpenMP，例如：Sun Compiler,GNU Compiler、Intel Compile
转载
2023-12-09 13:13:39
124阅读
初稿未完成摘要经典并行计算方案介绍。OPENMP技术详细介绍。MPI技术详细介绍。NV集合通信NCCL 技术介绍。MPIMPI（MPI是一个标准，有不同的具体实现，比如MPICH等）是多主机联网协作进行并行计算的工具，当然也可以用于单主机上多核/多CPU的并行计算，不过效率低。它能协调多台主机间的并行计算，因此并行规模上的可伸缩性很强，能在从个人电脑到世界TOP10的超级计算机上使用。缺点是使用进程间通信的方式协调并行计算，这导致并行效率较低、内存开销大、不直观、编程麻烦。OpenMP
原创
2021-07-11 15:44:10
2047阅读
转载
2013-05-09 20:54:00
154阅读
2评论
http://gcc.gnu.org/onlinedocs/libgomp/Implementing-PARALLEL-construct.html 10.10 Implementing PARALLEL construct #pragma omp parallel { body; } become ...
转载
2021-07-28 14:13:00
423阅读
2评论
https://blog..net/fuwenyan/article/details/79500765a https://../yangyangcv/archive/2012/03/23/2413335.html ://vra.github.io/2016/
原创
2022-01-17 16:50:40
208阅读
OpenMP的基本要素：1. 编译指导指令（Compiler Directive）在C/C++程序中，OpenMP的编译指导指令以 #pragma omp开始例如： #pargma omp 指令 [子句[, 子句]……]子句的类型：1. 并行域控制类2. 任务分担类3. 同步控制类4. 数据环境类2. 运行库函数 （Runtime Library）3. 环境变量（Environment Varia
原创
2016-11-16 14:46:03
2562阅读
openmp和TBB都可利用多核进行并行处理。 主要用于循环加速。 1.openmp调用简单，占用开销小。只需打开支持openmp的编译器，添加一句 #pragma omp parallel for if (enable_openmp_) 就可以执行并行操作，如果不能并行，也不影响后面函数调用。支持 ...
转载
2021-08-09 22:15:00
1119阅读
2评论
实验平台：win7， VS2010 1. 介绍 并行计算机可以简单分为共享内存和分布式内存，共享内存就是多个核心共享一个内存，目前的PC就是这类（不管是只有一个多核CPU还是可以插多个CPU，它们都有多个核心和一个内存），一般的大型计算机结合分布式内存和共享内存结构，即每个计算节点内是共享内存，节点间是分布式内存。想要在这些并行计算机上获得较好的性能
转载
2024-03-19 13:24:28
246阅读
一、实验简介 1.1 实验目标 本节着重于介绍MPI的基本概念。如果你对MPI有充分的了解，可选择跳过本节。 1.2 实验环境要求 gcc/g++ 编译器 1.3 涉及知识点和基本知识 MPI的概念 MPI的历史 结语 二、实验步骤 2.1 MPI的概念 如今，分布式计算对于大众来说，就跟手机和平板 ...
转载
2021-08-03 15:58:00
1527阅读
2评论
在多线程编程中必须考虑到不同的线程对同一个变量进行读写访问引起的数据竞争问题。如果线程间没有互斥机制，则不同线程对同一变量的访问顺序是不确定的，有可能导致错误的执行结果。
OpenMP中有两种不同类型的线程同步机制，一种是互斥机制，一种是事件同步机制。
互斥锁机制的设计思路是对一块共享的存储空间进行保护，保证任何时候最多只能有一个线程对这块存储空间进行访问，从而保证数据的完整性，这块存储空间称为
转载
2016-12-26 22:41:00
255阅读
2评论
昨天因为需要，重新开始拾起MPI，一年前接触过，现在已经忘得差不多了。 昨天遇到一个困难，MPICH2不知怎么回事，无法配置（wmpiconfig.exe）查看了网上的很多文档，总算找到了问题的所在。 我的系统是WIN7 64位，如果你设置了密码，注册时就用开
原创
2014-10-24 10:01:56
539阅读
OpenMP支持c、cpp、fortran，本文对比使用openmp和未使用openmp的效率差距和外在表现，然后讲解基础知识。 一、举例 1、使用OpenMP与未使用OpenMP的比较。 OpenMP是使用多线程的接口。 以c语言程序举例，即ba.c文件如下： 在编译时，参数如下： 编译结果如下：
转载
2018-06-15 18:18:00
230阅读
2评论
MPI 编程实训 MPI(Message Passing Interface)是一个跨语言的通讯协议,用于编写并行程序。与OpenMP并行程序不同，MPI是一种基于消息传递的并行编程技术。消息传递接口是一种编程接口标准，而不是一种具体的编程语言。 简而言之，MPI标准定义了一组具有可移植性的编程接口 ...
转载
2021-08-06 17:43:00
464阅读
2评论
之前在看卷积神经网络，很好奇卷积到底是什么，这篇文章中提到了对图像的滤波处理就是对图像应用一个小小的卷积核，并给出了以下例子： 对图像的卷积，opencv已经有实现的函数filter2D，注意，卷积核需要是奇数行，奇数列，这样才能有一个中心点。opencv卷积的简单实践如下：import matplotlib.pyplot as plt
import pylab
import cv2
imp
转载
2023-07-03 03:25:01
112阅读
1.MPI全称是message passing interface，即信息传递接口，是用于跨节点通讯的基础软件环境。它提供让相关进程之间进行通信，同步等操作的API，可以说是并行计算居家出游必备的基础库。一个 MPI 程序包含若干个进程。每个 mpi 进程都运行一份相同的代码，进程的行为由通讯域(communication world)和该通讯域下的 id(rank id)所决定。MPI的编程方式
转载
2023-07-27 15:10:54
334阅读
Linux OpenMP是一种在Linux操作系统下进行并行编程的技术，它以其高效性和易用性在科学计算和高性能计算领域广泛应用。本文将介绍Linux OpenMP的基本概念、原理和应用领域。
首先，我们需要了解Linux OpenMP的概念。OpenMP（Open Multi-Processing）是一种用于共享内存架构并行计算的编程接口。它允许程序员使用指令来将任务分割为多个子任务，并在多个处
原创
2024-02-05 10:24:54
217阅读
