HyperAI超神经的博客_TVM 学习

【TVM 教程】在 Relay 中使用 Pipeline Executor

Apache TVM 是一个端到端的深度学习编译框架，适用于 CPU、GPU 和各种机器学习加速芯片。更多 TVM 中文文档可访问 → Apache TVM 中文站tvm.hyper.ai/ 作者：Hua Jiang 本教程介绍如何将「Pipeline Executor」与 Relay 配合使用。 import tvm from tvm import te import numpy as np

python

Apache

TVM

人工智能

语言模型

原创 5天前 48 阅读

【TVM 教程】在 Relay 中使用外部库

作者：Masahiro Masuda，Truman Tian 本文介绍如何将 cuDNN 或 cuBLAS 等外部库与 Relay 一起使用。 Relay 内部用 TVM 来生成 target-specific 的代码。例如，TVM 使用 CUDA 后端为用户提供的网络中的所有层生成 CUDA 内核。有时也可将各个供应商开发的外部库合并到 Relay 中，TVM 有一种机制可以透明地调用这些库——

CUDA

github

TVM

语言模型

自然语言处理

原创 12天前 60 阅读

【TVM 教程】构建图卷积网络

python

github

TVM

深度学习

人工智能

原创 18天前 81 阅读

【TVM 教程】使用 tvmc 接口在 Adreno™ 上部署预训练模型

本文是一篇关于在 Adreno™ 上部署预训练 Keras resnet50 模型的逐步教程。此外，您应该已经为 Android 构建了 TVM。请参阅以下说明，了解如何构建它并设置 RPC 环境。在 Adreno GPU 上部署 import os import tvm import numpy as np from tvm import relay from tvm.driver impo

人工智能

TVM

语言模型

自然语言处理

深度学习

原创精选 26天前 172 阅读

【TVM 教程】在 CUDA 上部署量化模型

作者：Wuwei Lin 本文介绍如何用 TVM 自动量化（TVM 的一种量化方式）。有关 TVM 中量化的更多详细信息，参阅此处。本教程将在 ImageNet 上导入一个 GluonCV 预训练模型到 Relay，量化 Relay 模型，然后执行推理。 import tvm from tvm import te from tvm import relay import mxnet as mx

数据集

深度学习

TVM

自然语言处理

大模型

原创 1月前 41 阅读

【TVM 教程】使用 TVM 部署框架预量化模型 - 第 3 部分（TFLite）

TVM

教程

语言模型

人工智呢

深度学习

原创 1月前 36 阅读

【TVM 教程】使用 TVM 部署框架预量化模型

本文介绍如何将深度学习框架量化的模型加载到 TVM。预量化模型的导入是 TVM 中支持的量化之一。有关 TVM 中量化的更多信息，参阅此处。这里演示了如何加载和运行由 PyTorch、MXNet 和 TFLite 量化的模型。加载后，可以在任何 TVM 支持的硬件上运行编译后的量化模型。首先，导入必要的包： from PIL import Image import numpy as np i

深度学习

TVM

人工智能

机器学习

原创 1月前 43 阅读

【TVM 教程】编译 PyTorch 目标检测模型

本文介绍如何用 Relay VM 部署 PyTorch 目标检测模型。首先应安装 PyTorch。此外，还应安装 TorchVision，并将其作为模型合集（model zoo）。可通过 pip 快速安装： pip install torch pip install torchvision 或参考官网：https://pytorch.org/get-started/locally/ PyTo

加载

目标检测

TVM

深度学习

机器学习

原创 2月前 42 阅读

【TVM 教程】在树莓派上部署预训练模型

此教程介绍如何用 Relay 编译 ResNet 模型，并将其部署到树莓派。 import tvm from tvm import te import tvm.relay as relay from tvm import rpc from tvm.contrib import utils, graph_executor as runtime from tvm.contrib.download im

TVM

数据集

人工智能

深度学习

机器学习

原创 4月前 41 阅读

活动回顾 | 暴雨也无法阻挡的奔赴，2023 Meet TVM · 深圳站完美收官！

2023 Meet TVM · 深圳站于 2023 年 9 月 16 日在腾讯大厦成功举办，百余名参与者亲临现场，聆听讲师们的精彩分享。内含活动录播以及讲师 PPT

编译器

MLIR

TVM

机器学习

腾讯

原创 11月前 511 阅读

HLS 后端示例

TVM 支持带有 SDAccel 的 Xilinx FPGA 板，接下来介绍如何将 TVM 部署到 AWS F1 FPGA 实例。

tvm

AI编译器

机器学习

原创 2023-08-28 17:24:23 555 阅读

活动预告 | 2023 Meet TVM · 深圳站定档，邀您共赴一场最前沿的 AI 编译器技术之旅！

2023 Meet TVM 线下聚会第 3 站将于 9 月 16 日在深圳腾讯大厦举办！本次 Meetup 包含 5 个关于 AI 编译器的精彩 talk，期待与大家在深圳相聚！

线下活动

人工智能

TVM中文

原创 2023-08-24 19:41:11 506 阅读

使用 C++ API 部署 TVM 模块

本文介绍如何使用 C++ API 部署 TVM 模块，部署到 Android，并将 TVM 集成到项目中。

tvm

机器学习

AI 编译器

原创 2023-08-15 21:23:30 108 阅读

部署模型并与 TVM 集成

本节介绍如何将 TVM 部署到各种平台，以及如何将其与项目集成。

tvm

AI编译器

机器学习

原创 2023-08-09 13:12:48 80 阅读

编译 OneFlow 模型

本文介绍如何用 Relay 部署 OneFlow 模型。

AI 编译器

tvm

机器学习

原创 2023-07-31 20:02:02 639 阅读

编译 PaddlePaddle 模型

本文介绍如何用 Relay 部署 PaddlePaddle 模型

paddle

tvm中文

机器学习

AI 编译器

原创 2023-07-24 16:46:48 748 阅读

在 DarkNet 模型中编译 YOLO-V2 和 YOLO-V3

本篇文章译自英文文档 Compile YOLO-V2 and YOLO-V3 in DarkNet Models 作者是 Siju Samuel 更多 TVM 中文文档可访问 →Apache TVM 是一个端到端的深度学习编译框架，适用于 CPU、GPU 和各种机器学习加速芯片。 | Apache TVM 中文站本文介绍如何用 TVM 部署 DarkNet 模型。所有必需的模型和库都可通过脚本从

AI编译器

机器学习

原创 2023-07-21 13:17:19 93 阅读

编译 CoreML 模型

本文介绍如何用 Relay 部署 CoreML 模型。

TVM

AI 编译器

机器学习

原创 2023-06-26 17:19:17 1630 阅读

活动回顾 | 汇聚行业技术大咖，共享思维碰撞时刻，2023 Meet TVM · 北京站圆满落幕

内附 PPT 及分享实录

机器学习

tvm中文

AI 编译器

原创 2023-06-20 17:16:49 1947 阅读

编译 TFLite 模型

本文介绍如何用 Relay 部署 TFLite 模型。

github

TVM

AI 编译器

原创 2023-06-19 16:54:05 74 阅读

编译 Keras 模型

本文介绍如何用 Relay 部署 Keras 模型。

github

tvm中文

AI 编译器

原创 2023-06-12 14:18:26 64 阅读 1点赞

编译 ONNX 模型

本文介绍如何使用 Relay 部署 ONNX 模型。

tvm

AI 编译器

原创 2023-06-05 21:49:05 130 阅读

编译 MXNet 模型

本文将介绍如何用 Relay 部署 MXNet 模型。

MXNet

机器学习

原创 2023-05-15 14:16:58 609 阅读

编译 PyTorch 模型

本篇文章译自英文文档 Compile PyTorch Models，作者是 [Alex Wong](https://github.com/alexwong/)。更多 TVM 中文文档可访问 TVM 中文站。本文介绍了如何用 Relay 部署 PyTorch 模型。

机器学习

TVM

PyTorch

原创 2023-04-25 17:09:01 1234 阅读

TOPI 简介

本篇文章译自英文文档 Introduction to TOPI。作者是 Ehsan M. Kermani。更多 TVM 中文文档可访问 →TVM 中文站这是 TVM 算子清单（TOPI）的入门教程。 TOPI 提供了 numpy 风格的通用操作和 schedule，其抽象程度高于 TVM。本教程将介绍 TOPI 是如何使得 TVM 中的代码不那么样板化的。 import tvm import

人工智能

机器学习

原创 2023-04-17 16:13:09 42 阅读

利用 UMA 使硬件加速器可直接用于 TVM

本节介绍通用模块化加速器接口（UMA）。

人工智能

机器学习

原创 2023-04-11 11:33:01 1785 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客

wx642fee283149d的博客

【TVM 教程】在 Relay 中使用 Pipeline Executor

【TVM 教程】在 Relay 中使用外部库

【TVM 教程】构建图卷积网络

【TVM 教程】使用 tvmc 接口在 Adreno™ 上部署预训练模型

【TVM 教程】在 CUDA 上部署量化模型

【TVM 教程】使用 TVM 部署框架预量化模型 - 第 3 部分（TFLite）

【TVM 教程】使用 TVM 部署框架预量化模型

【TVM 教程】编译 PyTorch 目标检测模型

【TVM 教程】在树莓派上部署预训练模型

活动回顾 | 暴雨也无法阻挡的奔赴，2023 Meet TVM · 深圳站完美收官！

HLS 后端示例

活动预告 | 2023 Meet TVM · 深圳站定档，邀您共赴一场最前沿的 AI 编译器技术之旅！

使用 C++ API 部署 TVM 模块

部署模型并与 TVM 集成

编译 OneFlow 模型

编译 PaddlePaddle 模型

在 DarkNet 模型中编译 YOLO-V2 和 YOLO-V3

编译 CoreML 模型

活动回顾 | 汇聚行业技术大咖，共享思维碰撞时刻，2023 Meet TVM · 北京站圆满落幕

编译 TFLite 模型

编译 Keras 模型

编译 ONNX 模型

编译 MXNet 模型

编译 PyTorch 模型

TOPI 简介

利用 UMA 使硬件加速器可直接用于 TVM