看过 TensorFlow-slim 训练 CNN 分类模型（续） 及其相关系列文章的读者应该已经感受到了 tf.contrib.slim 在训练卷积神经网络方面的极其方便之处，特别是它让构建模型变得非常直观。但不可忽视的是，它还存在一在很大的缺点，就是它在训练模
转载
2024-05-09 15:18:30
75阅读
1前言在这里我先明确一下开发环境和库版本：系统：win10 64位；IDE：Pycharm2019(免费版)；Dlib：19.8.1；Opencv：4.1.1.26；Keras：2.3.1；numpy：1.17.4；scikit-learn：0.19.2；tensorflow：2.1.0。 因为在我以前写的一篇关于人脸识别的文章下，有一些同学问了
转载
2024-04-26 12:52:50
72阅读
做机器训练有段时间了，从Windows到Mac再到Unbuntu，一直在搭建tensorflow机器训练环境。在工作中逐步找到最快捷的搭建方式，这次就以Mac为例记录下在Mac中搭建tensorflow机器训练环境（Ubuntu搭建流程是一样的）。 首先，由于多年来养成的IDE编程习惯，就想着如果有合适的IDE用于开发ten
转载
2024-03-09 20:41:18
54阅读
对于数据量较小而言，可能一般选择直接将数据加载进内存，然后再分batch输入网络进行训练。但是，如果数据量较大，这样的方法就不适用了，因为太耗内存。在这儿我介绍一种比较通用，高效的读取方法，即使用tensorflow内定标准格式——TFRecord.TFRecords其实是一种二进制文件，虽然它不如其他格式好理解，但是它能更好的利用内存，更方便复制和移动，并且不需要单独的标签文件。TFRecord
转载
2024-04-08 10:27:53
41阅读
一、TnesorFlow 计算模型————计算图1、 计算图概念1.1 Tensor Tensor就是张量, 可以简单理解为多维数组，表明了数据结构1.2 FlowFlow 表达了张量之间通过计算相互转化的过程，体现了数据模型1.3 数据流图基础数据流图是每个 TensorFlow 程序的核心，用于定义计算结构
每一个节点都是一个运算，每一条边代表了计算之间的依赖关系上图展示了可完成基本加法运算
转载
2024-06-05 22:13:28
80阅读
一：基本概念1、使用图(graphs)来表示计算任务2、在被称之为会话(Session)的上下文(context)中执行图3、使用tensor表示数据4、通过变量(Variable)维护状态5、使用feed和fetch可以为任意的操作赋值或者从其中获取数据TensorFlow是一个编程系统，使用图（graphs）来表示计算任务，图（graphs）中的节点称之为op（operation），一个op获
转载
2024-05-14 18:17:16
69阅读
上篇博客主要介绍了tensorflow_slim的基本模块，本篇主要介绍一下如何使用该模块训练自己的模型。主要分为数据转化，数据读取，数据预处理，模型选择，训练参数设定，构建pb文件，固化pb文件中的参数几部分。一、数据转化：主要目的是将图片转化为TFrecords文件，该部分属于数据的预处理阶段，可以参考datasets中的download_and_conver_flower中的run函数实现。
转载
2024-05-13 11:17:23
59阅读
现在让我们用Tensorflow实现一个具体的Input pipeline，我们使用CoCo2014作为处理对象，网上应该可以下载到CoCo训练集，train2014这个文件。下载链接： http://msvocds.blob.core.windows.net/coco2014/train2014.zip 一共13.5G，解压完以后大概会有8万多张图，这
转载
2023-11-09 09:12:54
84阅读
一、什么叫做断点续训断点续训的意思是因为某些原因还没有训练完成就被中断，下一次训练可以在上一次的训练基础上继续进行。这种方式对于需要长时间训练的模型而言非常友好二、模型文件解析 checkpoint文件会记录保存信息，通过它可以定位最新保存的模型； .meta文件保存了当前NN的网络结构：tf.train.import_meta_graph(‘MODEL_NAME.ckpt-1174.meta’)
转载
2024-06-08 19:22:53
71阅读
estimator是tensorflow高度封装的一个类，里面有一些可以直接使用的分类和回归模型，例如tf.estimator.DNNClassifier，但这不是这篇博客的主题，而是怎么使用estimator来实现我们自定义模型的训练。它的步骤主要分为以下几个部分：构建model_fn，在这个方法里面定义自己的模型以及训练和测试过程要做的事情；构建input_fn，在这个方法数据的来源和喂给模型
转载
2024-04-22 08:53:44
36阅读
使用tensorflow实现代码的步骤：如下 通用十步骤：
1.导入或生成数据集；
2.转换和标准化数据；data = tf.nn.batch_norm_with_global_normalization(...)
3.划分训练、测试和验证数据集；
4.设置超参数，集中设置；
learning_rate = 0.01
batch_siz
tensorflow2.0小试牛刀之常用训练步骤由于mnist数据集的别捷性，在讲解原理性的知识时，是首选的数据集。本文整理了一个模型从数据及准备到训练的完整步骤，可以作为模板使用。一、数据集的加载这一步是将数据标注工具标注完的数据加载到内存的过程，关于数据标注的具体内容请参考 深度学习，先学会制作自己的数据集 由于是深度学习的起步阶段，我们先简单试用一下mnist数据集。from __futur
转载
2024-04-26 19:20:28
48阅读
1.训练速度慢的原因在我们训练网络的时候，是cpu先处理好数据然后送入网络中gpu进行计算，这样在cpu处理数据时非常的慢，会使得gpu有较长的空载时间。常规的训练方式如下。2 加速方法2.1 方法1 tf.data.prefetch()这是可以使用tf.data.prefetch()方法，提前从数据集中取出若干数据放到内存中，这样可以使在gpu计算时，cpu通过处理数据，从而提高训练的速度。如下
转载
2024-04-28 19:11:31
76阅读
接着上篇文章讲一下Dataset的性能优化，训练深度学习模型常常会非常耗时。模型训练的耗时主要来自于两个部分，一部分来自数据准备，另一部分来自参数迭代。参数迭代过程的耗时通常依赖于GPU来提升， 而数据准备过程的耗时则可以通过构建高效的数据管道进行提升。 下边是一些构建高效数据管道的建议： 1.prefetch方法： 原始方法执行,可以看到执行训练步骤涉及： • 打开文件（如果尚未打
转载
2024-06-25 12:54:48
339阅读
引言文本使用 tensorflow 2.8, CUDA 11.2 以及 cuDNN 8.1.1 训练了 cifar10 数据集. 代码没有那么重要, 主要是完成了环境的安装以及各种问题排查, 最后用一个简单的网络结构跑了一下训练. 如果本文对你有用, 麻烦不吝点个赞; 如果有啥问题, 请不要犹豫, 赶紧联系我.下载数据集和查看数据import tensorflow as tf
from keras
转载
2024-07-23 15:12:15
88阅读
到目前为止，我们已经只使用了 TensorFlow 的高级 API tf.keras，但它已经让我们走得很远：我们使用各种技术构建了各种神经网络架构，包括回归和分类网络、Wide & Deep 网络和自归一化网络，例如批量标准化、辍学和学习率计划。事实上，你将遇到的 95% 的用例除了 tf.keras（和 tf.data；参见第 13 章）之外不需要任何东西。但现在是时候深入了解 Ten
转载
2024-04-01 11:01:23
70阅读
一、选择数据数据集CelebA_CelebFaces_Attributes_Dataset：这个数据集包含20多万张图片，主要用于人脸属性，性别、年龄、眼镜、胡子等等。我这里主要是训练人脸的性别，先将图片整理分类并归一化，生成TFRecord格式的数据（图片格式（224,224,3）），便于tensorflow训练。整理的数据集在网盘上：https://pan.baidu.com/s/1ptteU
转载
2024-03-24 10:59:17
38阅读
本文将介绍优化训练神经网络模型的一些常用方法，并给出使用TensorFlow实现深度学习的最佳实践样例代码。为了更好的介绍优化神经网络训练过程，我们将首先介绍优化神经网络的算法——梯度下降算法。然后在后面的部分中，我们将围绕该算法中的一些元素来优化模型训练过程。\\ 梯度下降算法\\ 梯度下降算法主要用于优化单个参数的取值，而反向传播算法给出了一个高效的方式在所有参数上使用梯度下降算法，从而使
转载
2024-04-07 20:56:26
32阅读
这篇博客适合初学者了解模型训练是怎么一回事，用最简单的代码实现模型训练，但是你需要一点python的知识和一个你擅长的开发环境（比如：jupyter notebook）总共需要下面几个步骤导入包引入数据数据处理创建模型编译模型传入数据并训练导入包import tensorflow as tf
from tensorflow.keras.layers import Dense, Flatten, C
转载
2023-12-15 09:53:26
108阅读
摘要：本文介绍将TensorFlow网络模型迁移到昇腾AI平台，并执行训练的全流程。然后以TensorFlow 1.15训练脚本为例，详细介绍了自动迁移、手工迁移以及模型训练的操作步骤。作者：昇腾CANN。当前业界很多训练脚本是基于TensorFlow的Python API进行开发的，默认运行在CPU/GPU/TPU上，为了使这些脚本能够利用昇腾AI处理器的强大算力执行训练，需要对TensorFl
转载
2024-04-23 16:19:59
62阅读
