继去年十月份的PyTorch大会发布了2.1版本之后，全世界各地的521位开发者贡献了3628个提交，由此形成了最新的PyTorch 2.2版本。 新的版本集成了FlashAttention-2，使得scaled_dot_product_attention （SDPA）相较于之前的版本有了约2倍的性能提升。PyTorch 2.2还引入了一个新的TorchInductor提前扩展，称为 AOTIn
# 如何实现pytorch规定使用的CPU核心
## 简介
在使用pytorch进行深度学习开发时，有时候我们希望将计算任务限制在特定的CPU核心上运行，以优化性能。本文将介绍如何实现pytorch规定使用的CPU核心。
## 整体流程
下面是实现pytorch规定使用的CPU核心的整体流程：
| 步骤 | 操作 |
| ---- | ---- |
| 1 | 导入必要的库 |
| 2 |
原创
2024-06-29 06:12:56
159阅读
文章目录一、关于GPU什么是GPU？什么是CPU？任何GPU都适合深度学习吗？白嫖GPU二、 tensor张量（一）张量（Tensor）的基本创建及其类型1、张量（Tensor）函数创建方法（1）通过列表创建张量（2）通过元组创造张量（3）通过数组重建张量2、张量的类型（1）整数型（2）浮点型（3）布尔类型（4）通过dtype参数，在创建张量过程中设置类型（5）复数类型对象创建3、张量类型的转化
转载
2023-11-23 16:37:16
170阅读
关于CPU和程序的执行 CPU是计算机的大脑。
1、程序的运行过程，实际上是程序涉及到的、未涉及到的一大堆的指令的执行过程。 当程序要执行的部分被装载到内存后，CPU要从内存中取出指令，然后指令解码(以便知道类型和操作数，简单的理解为CPU要知道这是什么指令)，然后执行该指令。再然后取下一个指令、解码、执行，以此类推直到程序退出。
2、这个取指、解码、执行三个过程构成一个CPU
转载
2024-06-20 20:32:23
29阅读
1. 理解 Pytorch 的张量类型Pytorch中使用的数据结构为张量 - Tensor，可以表示一个标量，一个向量，一个矩阵，或是更高维度的数组。在深度神经网络中，基于Pytorch的相关计算和优化都是在Tensor的基础上完成的。Pytorch中的张量结构与Numpy中的ndarray类似，共有底层内存，因而可以方便地进行相互转化。Numpy仅支持CPU计算，而Pytorch支持GPU计算
转载
2023-08-13 16:15:15
241阅读
https://zhuanlan.zhihu.com/p/272135463
原创
2023-01-25 21:02:56
97阅读
1.算术逻辑单元2.一组寄存器3.控制单元 算数命令 在堆栈上执行算术和逻辑操作 存储器存取命令 在堆栈和虚拟内存单元之间转移数据 程序流程命令 使条件分支操作和无条件分支操作变得容易 函数调用命令 调用函数并返回调用处（既函数调用指令的下一条指令地址） ...
原创
2023-02-23 06:52:12
196阅读
一、Windows（64bit）下安装pytorch-cpu首先说个题外话，为了日后使用的方便最好是将将conda和pip的软件源修改成清华的源，这样的话，使用conda或者pip安装软件速度会快很多。可使用如下指令进行设置:（当然只是建议，与本次pytorch的安装无关，pytorch都是直接从官网上下载，速度还挺快）conda config --add channels https://m
转载
2023-09-05 22:02:16
219阅读
2022年5月，PyTorch官方宣布已正式支持在M1芯片版本的Mac上进行模型加速。官方对比数据显示，和CPU相比，M1上炼丹速度平均可加速7倍。哇哦，不用单独配个GPU也能加速这么多，我迫不及待地搞到一个M1芯片的MacBook后试水了一番，并把我认为相关重要的信息梳理成了本文。公众号后台回复关键词：M1，可获取本文jupyter notebook源代码。一，加速原理Question1，Mac
转载
2024-02-18 11:31:20
112阅读
我们一般对cpu充满了崇拜，一个小小的芯片，却能执行看起来那么复杂那么智能的程序，是不是cpu有什么神奇的地方呢？其实没有。我们知道电子技术发展非常迅速，cpu从以前8086到现在的安腾酷睿，其性能不知提高了多少倍，但是其指令集却没有多少变化，这跟其功能的设计有很大的关系。cpu的核心功能就是控制计算机各设备之间的数据交互，以及数据的运算。那么cpu究竟是怎么设计的呢？cpu被设计成自动从内存中取
转载
2023-11-07 12:52:53
61阅读
cpu、core、processor、thread 等概念，有的是物理的有的是逻辑的，在不同语境中含义不尽相同。“电脑有几个 cpu ?”“多线程程序设置多少个线程数效果好？”“linux cpuinfo / top 里展示的 cpu 的信息如何理解？”物理 cpu 数(physical cpu)指主板上实际插入的 cpu 硬件个数(socket)。(但是这一概念经常被泛泛的说成是 cpu 数，这
转载
2024-08-01 14:11:11
52阅读
# PyTorch CPU 量化 CPU
在深度学习领域中，模型的大小和计算的效率是非常重要的。为了减小模型的大小和提高计算的效率，我们可以使用量化技术。量化是指将模型中的浮点数参数转换为整数，以减小模型的存储空间和计算量，从而提高模型的运行速度。
PyTorch 是一个流行的深度学习框架，它提供了一种简单而强大的方法来执行模型的量化。在本文中，我们将介绍如何使用PyTorch在CPU上进行模
原创
2023-07-28 07:33:36
873阅读
这好像是CPU太老了，不支持的缘故，换了一台I7的cpu就可以了。可以参考：Ubuntu下import tensorflow显示非法指令（核心已转储）解决方案
原创
2021-09-07 11:50:31
1691阅读
Win10安装 pytorch【CPU版】一、安装Anaconda二、安装Pytorch-CPU1. 打开 Anaconda Prompt2. 查看conda环境3. 进入 pytorch 环境，安装pytorch4. 到[pytorch官网](https://pytorch.org/get-started/locally/)5. 手动安装方法6. 验证是否安装成功7. vscode配置【笔者是
转载
2023-10-31 20:43:53
0阅读
CPU：中央处理器（CPU，英语：Central Processing Unit / Processor），是电子计算机的主要设备之一，电脑中的核心配件。其功能主要是解释计算机指令以及处理计算机软件中的数据。电脑中所有操作都由CPU负责读取指令，对指令译码并执行指令的核心部件。 这是CPU的大致组成，易于理解。解释：ALU：这是逻辑运算单元，用于计算。如，加减乘除，位移操作，按位逻辑运算
核心（die）又称为内核，是cpu最重要的组成部分。cpu中心那块隆起的芯片就是核心，是由单晶硅以一定的生产工艺制造出来的，cpu所有的计算、接受/存储命令、处理数据都由核心执行。各种cpu核心都具有固定的逻辑结构，一级缓存、二级缓存、执行单元、指令级单元和总线接口等逻辑单元都会有科学的布局。 为了便于cpu设计、生产、销售
转载
2023-07-19 21:21:36
589阅读
CPU的基本功能：运算器的基本结构：运算器的核心部件就是算术逻辑单元。算术逻辑单元（Arithmetic&logical Unit） 是中央处理器(CPU)的执行单元，是所有中央处理器的核心组成部分，由"And Gate"（与门） 和"Or Gate"（或门）构成的算术逻辑单元，主要功能是进行二位元的算术运算，如加减乘(不包括整数除法)。基本上，在所有现代CPU体系结构中，二进制都以补码的
转载
2024-01-21 06:39:28
155阅读
CPU的核心电压是指CPU核心芯片工作时所需要的电压，CPU的I/O电压则指驱动I/O电路时所需要的工作电压。为了保证低功耗，高驱动能力。从奔腾开始，CPU就采用双电压供电，并且都采用内核低电压，I/O高电压的模式，这就保证了低功耗，高驱动能力的要求。CPU的工作电压（Supply Voltage），即CPU正常工作所需的电压。任何电器在工作的时候都需要电，自然也有对应额定电压，CPU也不例外。目
转载
2023-11-30 15:40:20
235阅读
下篇 【用机器指令和汇编指令编程】【实验具体内容 2】1）预备知识：Debug命令的补充1. 在D命令中使用段寄存器格式：d 段寄存器:偏移地址，以段寄存器中的数据为段地址SA，列出从SA:偏移地址开始的内存区间中的数据下面有四个指令案例-r ds
:1000
-d ds:0 ;查看从1000:0开始的内存区间的内容-r ds
:1000
-d ds:10 18 ;查看1000:10~1000
转载
2024-06-24 17:28:18
206阅读
CPU个数即CPU芯片个数，即主板上CPU的插槽个数。CPU的核心数是指物理上，也就是硬件上存在着几个核心。比如，双核就是包括2个相对独立的CPU核心单元组，四核就包含4个相对独立的CPU核心单元组。（逻辑处理器）线程数是一种逻辑的概念，简单地说，就是模拟出的CPU核心数。比如，可以通过一个CPU核心数模拟出2线程的CPU，也就是说，这个单核心的CPU被模拟成了一个类似双核心CPU的功能。我们从任
转载
2023-07-10 17:47:43
617阅读
