在AI（人工智能）的场景下，使用各种硬件加速器包括GPU、AI专用加速卡等对AI算法进行加速已经成为必不可少的选择。由于这类GPU、AI专用加速卡的价值占据服务器成本相当大的比例，甚至超过一半的成本，因此如何使用好这些高价值的设备、提高业务对它们的利用率、提高对它们的运维效率成为企业非常关注的要点。把资源进行池化是数据中心提高资源利用率、提高运维效率的最重要的手段之一。资源池化是通过分布式软件、虚
转载
2023-11-14 22:19:10
281阅读
1. AI芯片定义
2. AI芯片的参数衡量标准
3. AI芯片的实现架构
4. AI芯片的用途(应用位置云管端/图像语音)
5. AI芯片现状(国内外公司与芯片)
6. AI芯片和linux的关系
【性能至上？聊聊人工智能芯片的5个评价标准-哔哩哔哩】 https://b23.tv/B4ke6CK1 AI芯片定义从广义上讲只要能够运行人工智能算法的芯片都叫作 AI 芯片。
但是通常意义上的 A
转载
2024-02-21 19:54:22
78阅读
# PyTorch如何加载AI加速卡的项目方案
## 项目背景
随着人工智能的发展，深度学习模型的训练与推理任务对于计算性能的需求日益增长。AI加速卡（如NVIDIA的GPU，TPU等）成为了加速深度学习流程的重要工具。本文将介绍如何使用PyTorch加载AI加速卡，提供一个完整的实施方案，展示在现有环境中高效利用加速硬件的步骤。
## 项目目标
- 了解如何在PyTorch中检测并加载A
在人工智能发展的浪潮中，国产AI加速卡已经成为提升PyTorch深度学习框架性能的重要工具。为了能够顺利地使用这些加速卡，我整理了一些关键步骤，希望能为更多开发者提供便利。
## 环境准备
### 依赖安装指南
1. **操作系统:** Ubuntu 20.04 或 CentOS 7。确保系统更新到最新版本。
2. **Python 环境:** 推荐使用 Anaconda 管理 Python
作者：Paul Hsieh介绍本文主要讨论实时图形渲染方面的东西，比如绘制桌面GUI，游戏或者实时模拟、动画。而像射线追踪、图像处理这样的主题我们不会讨论。图形硬件就是你电脑中用来绘制图形的协处理器。像Windows这样的GUI，如果安装了“显卡驱动程序”，它就可以操纵图形硬件进行渲染，这可比纯软件渲染快得多。如果你这两年购买过Intel芯片的PC，估计里面就有图形加速卡。图形加速卡通过图元进行渲
转载
2023-12-20 23:47:57
76阅读
[3D加速后又一全新理念]3D显卡的诞生令人们可以通过显示设备领略到“十分真实”的画面，在1996年，几乎所有市面上出现的显卡产品都宣称拥有一定的3D处理能力，不过当时它们大多只是通过显卡芯片完成常规画面渲染工作，而3D场景模型构建和光照效果运算都是通过专门的软件算法由CPU来处理。包括当时的API也没有统一的标准，实际的3D效果可谓十分有限。不过1997年，随着第一块3D加速卡Voodoo的问世
人工智能AI智能加速卡技术 一． 可编程AI加速卡 1. 概述： 这款可编程AI加速器卡具备 FPGA 加速的强大性能和多功能性，可部署AI加速器IP（WNN/GNN,直接加速卷积神经网络，直接运行常见的网络框架），为应用和加速器函数开发人员提供了完整的开发工具SDK，节省开发时间，支持在多个平台上
转载
2020-06-16 15:02:00
1065阅读
2评论
1.1 VGA（图像显示卡），Graphics Card（图形加速卡），Video Card（视频加速卡），3D Accelerator Card 和 GPU（图形处理器）对这些概念之前也没怎么了解，这次正好自己梳理一下。从一篇古老的文章中，找到所谓的显卡从 VGA 到 GPU 发展史：第一代显卡：支持 256 色显示的 VGA Card，1988年。VGA Card的唯一功能就是输出图
转载
2024-05-17 16:31:24
286阅读
1.FENCE工具的原理及作用FENCE设备是RHCS集群中必不可少的一个组成部分，通过FENCE设备可以避免因出现不可预知的情况而造成的“脑裂”现象 FENCE设备的出现，就是为了解决类似这些问题，Fence设备主要就是通过服务器或存储本身的硬件管理接口 或者外部电源管理设备，来对服务器或存储直接发出硬件管理指令，将服务器重启或关机，或者与网络断开连接FENCE的工作原理是：当意外原因导致主机异
SSL加速卡性能最高
原创
2017-03-01 15:00:39
7599阅读
# 加速卡与虚拟化：PF和VF的探索
## 引言
在现代计算中，虚拟化技术已经成为了一种必不可少的手段。它不仅可以更高效地利用硬件资源，还能让不同的程序在隔离的环境中运行，增加了系统的安全性和灵活性。加速卡（如GPU、FPGA等）在这种架构中也扮演了重要角色。本文将重点讨论加速卡中的物理功能（PF）与虚拟功能（VF），并通过相关代码示例加深理解。
## 加速卡及其虚拟化
加速卡是专门设计用
数据在源源不断产生，数据中心需要越来越多的存储设备承载数据，同时也要通过大量计算将无序的数据加以提取，形成有用信息，从而服务于人们的生活。面对海量的数据分析，只凭借CPU来进行大数据计算远远无法满足需求，因此设计人员想到为数据中心加速。一般加速分为两种，第一是基于ASIC的可以针对特定应用进行加速的专用加速器，另一种是可以降低用户运营和数据分析成本的通用加速器，FPGA适用于多种场景。作为全球最大
Intel® QAT 加速卡之IPSec示例文章目录Intel® QAT 加速卡之IPSec示例1. QAT处理IPSec入站报文2. QAT处理IPSec出站报文3. 示例源码在IPSec的使用过程中需要频繁的加解密操作，而加解密操作会极大的消耗CPU的资源。因此很多提供IPSec服务的设备厂商尝试用多种方式来提高加解密性能，从而缓解CPU的压力，提高设备的IPSec的性能和吞吐量。其中既有软件加速方式，也有硬件加速方式。而Intel® QAT 加速卡便是之中的一款，这是Intel推出的硬件加速设备(
原创
2021-05-20 09:42:33
2186阅读
Intel QAT加速卡逻辑实例1. QAT相关的名词组织关系在本手册中描述的平台上，处理器可以连接到一个或多个英特尔®通信芯片组8925至8955系列（PCH）设备。 从软件角度来看，每个PCH设备都包含一个逻辑加速器。 从物理上讲，每个设备都包含多个加速器，这些加速器被负载均衡硬件组件抽象成一个加速器， 发送到一个逻辑加速器的所有请求将在PCH设备内的各个物理加速器之间自动进行负载均衡。 对软件来说，只需要操作一个逻辑加速器即可，可以大大简化应用程序的编程方式，提高工作效率。一组32个环形存储区
翻译
2021-05-20 09:43:03
2244阅读
Intel® QuickAssist Adapter 8950 设备简介支持英特尔®QuickAssist技术的英特尔®QuickAssist适配器提供加密加速和压缩加速服务。1. Key featuresIntel® 的QAT技术支持
翻译
2021-05-20 09:43:58
7084阅读
Chromium支持硬件加速渲染网页，即使用GPU渲染网页。在多进程架构下，Browser、Render和Plugin进程的GPU命令不是在本进程中执行的，而是转发给GPU进程执行。这是因为GPU命令是硬件相关操作，不同平台的实现不一样，从而导致不稳定，而将不稳定操作放在独立进程中执行可以保护主进程的稳定性。本文对Chromium硬件加速渲染机
转载
2024-08-29 13:58:17
70阅读
Pytorch自定义Dataset1. 自定义加载数据1.1. 第一种 Dataset class1.2. 第二种 torchvision 1. 自定义加载数据在学习Pytorch的教程时，加载数据许多时候都是直接调用torchvision.datasets里面集成的数据集，直接在线下载，然后使用torch.utils.data.DataLoader进行加载。 那么，我们怎么使用我们自己的数据集
转载
2023-09-26 18:50:17
110阅读
//编者按：实况直播业务随着流媒体市场的发展增长迅速。与传统流媒体“一对多”的模式不同，直播流媒体高交互的特性关...
原创
2023-09-03 21:49:36
974阅读
GPU是显示卡的“心脏”，也就相当于CPU在电脑中的作用，它决定了该显卡的档次和大部分性能，同时也是2D显示卡和3D显示卡的区别依据。2D显示芯片在处理3D图像和特效时主要依赖CPU的处理能力，称为“软加速”。3D显示芯片是将三维图像和特效处理功能集中在显示芯片内，也即所谓的“硬件加速”功能。显示芯片通常是显示卡上最大的芯片(也是引脚最多的)。GPU使显卡减少了对CPU的依赖，并进行部分原本CP
转载
2023-10-08 00:31:53
197阅读
CPU卡综述 概述 CPU卡：也称智能卡， 卡内 的集成电路中带有微处理器CPU、 存储单元 （包括随机 存储器 RAM、 程序存储器 ROM（FLASH）、用户数据存储器EEPROM）以及芯片 操作系统 COS。装有COS的CPU卡相当于一台微型计算机，不仅具有 数据存储 功能，同时具有命令处理和数据安全保护等功能。 由于没有掌握关键的生产工艺，原来我国设计的
转载
2024-05-02 07:23:42
23阅读
