1 使用 Docker 部署 TensorFlow 环境提示本部分面向没有 Docker 经验的读者。对于已熟悉 Docker 的读者，可直接参考 TensorFlow 官方文档 进行部署。Docker 是轻量级的容器（Container）环境，通过将程序放在虚拟的 “容器” 或者说 “保护层” 中运行，既避免了配置各种库、依赖和环境变量的麻烦，又克服了虚拟机资源占用多、启动慢的缺点。使用 Doc
转载
2024-06-29 17:32:24
640阅读
使用docker部署模型的好处在于，避免了与繁琐的环境配置打交道。使用docker，不需要手动安装Python，更不需要安装numpy、tensorflow各种包，直接一个docker就包含了全部。docker的方式是如今部署项目的第一选择。一、docker用法初探1、安装docker安装需要两个命令： sudo apt-get install docker sudo apt-get instal
转载
2024-07-29 15:33:12
27阅读
一 、docker安装二、使用docker拉取TensorFlow Serving最新版镜像docker pull tensorflow/serving # 默认为 latest版本三、获取官方服务仓库（其中demo部分可以测试服务是否能够正常启动）# 新建一个文件用于存放官方示例代码， 本文直接放在E盘下git clone https://github.com/tensorflow/servi
转载
2021-07-15 17:47:00
481阅读
2评论
1：前言 提起TensorFlow的模型，大家最熟知的莫过于checkpoint文件了，但是其实TensorFlow 1.0 以及2.0 提供了多种不同的模型导出格式，除了checkpoint文件，TensorFlow2.0官方推荐SavedModel格式，使用tf.serving部署模型的时候采用的就是它，此外还有Keras model（HDF5）、Frozen GraphDef，以及用于移动端
转载
2023-10-30 13:13:03
68阅读
背景深度学习模型如何服务化是一个机器学习领域工程方面的热点，现在业内一个比较主流的做法是将模型和模型的服务环境做成docker image。这样做的一个好处是屏蔽了模型对环境的依赖，因为深度学习模型在服务的时候可能对各种框架版本和依赖库有要求，解决运行环境问题一直是个令人头痛的事情。将模型通过docker服务化后意味着深度学习模型可以在各种环境使用，比如云端直接通过k8s调度拉起，或者在一些IOT
转载
2023-10-06 16:56:55
60阅读
前言：最近在用TensorFlow做车牌识别的项目，在训练模型时发现了如下问题，那就是xxx.dll not found.（本人是windwos电脑，可能Windows电脑问题比较多，如果cuda环境变量一项配置有问题就可能导致程序无法执行），今天就以cudnn64_7.dll 文件not found 为例，讲解如何解决这一类问题。问题描述和分析在用gpu训练模型时，为了验证gpu是否可用，执行了
转载
2023-12-29 22:42:48
108阅读
TensorFlow Lite 是一种用于设备端推断的开源深度学习框架。 按照官方的说法，TensorFlow Lite 是一组工具，可帮助开发者在移动设备、嵌入式设备和 loT 设备上运行模型，以便实现设备端机器学习。 所以在设计之初，Tensorflow Lite没有打算在Windows端进行部署的，但是最近它提供了CMakeLists.txt编译脚本，因而可以将其编译为动态库以在Window
转载
2024-04-23 10:03:50
119阅读
摘要本文为系列博客tensorflow模型部署系列的一部分，用于实现通用模型的TensorFlow Serving部署。本文主要实现用TensorFlow Serving部署tensorflow模型推理服务器。实现了tensorflow模型在服务器端计算方案，并提供相关示例源代码。相关源码见链接引言本文为系列博客tensorflow模型部署系列的一部分，用于实现通用模型的独立简单服务器部署。本文主
转载
2024-05-09 10:58:28
65阅读
前言： （2）本文章后续将在 B站 出门吃三碗饭 账号下更新讲解视频，可以同时观看食用Abstract：本文将通过介绍使用TensorflowLite框架，利用AndroidStudio工具来实现识别模型的移动端部署1.Introduction:因为最近有粉丝有反应的一个需求，训练好了一个模型如何迁移到移动端使用，于是我忙活了三四天，有了此文~2.RelatedWorks:TensorflowLi
转载
2024-05-13 13:16:35
95阅读
在《基于TensorFlow Serving的YOLO模型部署》文章中有介绍tensorflow 1.x版本的模型如何利用TensorFlow Serving部署。本文接着上篇介绍tensorflow2.x版本的模型部署。工作原理架构图**核心概念 ****⑦ ServableHandler:**servable实例，用于处理client发送的请求servable的生命周期：● 一个Source插
转载
2024-04-02 16:13:41
65阅读
关于tensorflow的分布式训练和部署， 官方有个英文的文档介绍，但是写的比较简单， 给的例子也比较简单，刚接触分布式深度学习的可能不太容易理解。在网上看到一些资料，总感觉说的不够通俗易懂，不如自己写一个通俗易懂给大家分享一下。
如果大家有看不懂的，欢迎留言，我再改文章，改到大学一年级的学生可以看懂的程度。 1. 单机多GPU训练
先简单介绍下单机的多GPU训练，然
转载
2024-07-26 15:31:53
73阅读
最近一个项目需要使用Tensorflow lite, 官网上的解释又特别简单，主要给了一个例子，但是这个例子和官网的解释又不一样。。。。这里简单记录下操作方法。添加依赖某些加载的方法，依赖并不支持。在自己的build.grandle的依赖中添加：implementation 'org.tensorflow:tensorflow-lite:1.15.0'
implementation 'or
转载
2024-01-02 12:26:13
59阅读
docker基础教程：https://legacy.gitbook.com/book/yeasy/docker_practice/details，通过这个教程可以了解docker基本概念 为什么使用docker？避免复杂的环境的配置，比如cuda。而在ubuntu上运行docker tensorflow-gpu镜像，仅仅需要安装nvidia驱动即可，幸运的是一般通过软件更新器（softw
转载
2023-08-16 17:43:07
99阅读
##系统配置：ubuntu18.04 cuda9.0 cudnn7.0 python2.7 tensorflow-1.10bazel-0.16 JDK8 SDK28.0.2 NDK12 android-8.0经过四天多的折腾，终于将tensorflow官方的android demo部署到了手机上，虽然遇到了很多坑，但终究目的还是达到了。由于tensorflow的源码更新速度太快，导致如今很多教程都
转载
2024-03-30 10:55:10
118阅读
目录 tensorflow容器化一、docker安装二、tensorflow三、创建自己的镜像四、编写Dockerfile五、build镜像六、运行镜像补充：依赖缺失问题解决tensorflow容器化一、docker安装二、tensorflow在docker中运行tensorflow的第一步就是要找到自己需要的镜像,我们可以去docker hub找到自己需要的tensorflow镜像.t
转载
2023-08-31 23:16:52
82阅读
搭建TensorFlow的GPU Docker环境
转载
2023-06-30 18:02:22
83阅读
【摘要】 Tensorflow Serving 是tf模型持久化的重要工具，本篇介绍如何通过Docker compose搭建并调试TensorFlow ServingTensorFlow Serving GitHub地址：https://github.com/tensorflow/serving建立docker-compose 文件目录在serving下建立docker-c...
原创
2021-05-24 22:38:16
1107阅读
相信不少童鞋都是因为 VS Code 认识到我：也许是用了我写的 20 多个 VS Code 插件（比如 Code Runner），也许是看了我的技术分享，或者是阅读了我写的 VS Code 黑宝书，又或是参加了 VS Code 中文社区的活动。除了 VS Code，你也可能是通过另一样东西认识到我，就是 955.WLB 不加班公司名单！2019 年年初，我建立了 955 不加班的公司名单。目前，
TensorflowonSpark 从入门到放弃最近因为项目原因，需要在短时间内把之前的代码移植到TensorflowonSpark平台中去，于是开始了愉快的探索之旅。 ##虚拟内存不足Application application_1536745728661_0003 failed 2 times due to AM Container for appattempt_1536745728661_
转载
2024-10-16 15:32:05
31阅读
## TensorFlow部署架构
TensorFlow是一个开源的机器学习框架，广泛应用于各种领域的深度学习任务中。它提供了丰富的工具和库，使得开发者能够快速构建和部署自己的机器学习模型。在本文中，我们将探讨TensorFlow的部署架构，包括模型的训练、转换和部署。
### TensorFlow的基本结构
TensorFlow的基本结构由两部分组成：计算图和会话。
计算图是Tensor
原创
2023-10-07 12:26:32
71阅读
