通过本次操作您将掌握如何部署pythorch-cifar100示例工程,以及如何替换使用您自己的模型,并了解到推理接口的相关信息。
本文是对上一篇图像分类示例做的一个拓展,在上一篇文章中,我们实验是将图片从电脑上用Python脚本把它提取一个特征,然后把特征给打包到固件里面,最后再来做这个推理结果。在本文的示例中,我们会从视觉开发套件的摄像头采集一个图像,然后把这一步提取特征的操作在CSK6芯片上来进行,然后把这个特征文件送给这个模型进行推理,最后来得出一个实时的推理结果。
前面文章中介绍了怎么使用LNN工具链在CSK6上运行自己的AI算法,本篇重点讲如何进行合理的模型裁剪,并为您展示真实输入数据下最终推理执行的结果。
在《LNN工具链详解:在CSK6上运行你自己的AI算法》中通过LNN工具链获得了自己的算法模型,并在PC上使用test_thinker进行推理运行,本篇承接介绍如何在CSK6芯片上运行输出的算法模型。
LNN(ListenAI Neural Network) 是聆思科技专为聆思 AIOT 芯片(目前支持 CSK6 系芯片)定制开发的AI生态工具链,它包含linger和thinker两个部分,其中linger是量化训练组件,thinker是轻量级推理引擎组件,两个套件相互配合实现了训练推理一体化。
Copyright © 2005-2024 51CTO.COM 版权所有 京ICP证060544号