训练模型的两种方式静态图方式是1.X 中张量流的主要运行方式。机制就是将定义和运行分离。相当于程序搭建一个结构（内存中搭建一个图），然后让数据（张量）按照图的顺序进行计算得到结果。静态图方式分为两个过程：1. 模型构建，从正反两个方向构建模型。2. 模型运行：构建模型后，通过多次迭代的方式运行模型，实现训练的过程。在 2.X 版本中使用 1.X 版本的API ，需要改变默认的工作模式：tf.com
tensorflow2.0建议使用tf.keras作为构建神经网络的高级API
接下来我就使用tensorflow实现VGG16去训练数据背景介绍：2012年 AlexNet 在 ImageNet 上显著的降低了分类错误率，深度神经网络进入迅速发展阶段。在2014年牛津大学机器人实验室尝试构建了更深的网络，文章中称为"VERY DEEP CONVOLUTIONAL NETWORKS"，如VGG16
转载
2024-02-18 13:20:39
70阅读
梯度的计算是频繁的任务。在所有的的learning algorithm里几乎都用到了梯度。可以参考这片训练算法总结。本文中我具体介绍各式各样的训来拿算法，而把焦点聚焦在梯度计算这个子任务上。#梯度的定义对于一个的函数： , 它的梯度可以定义为：##微分的计算梯度的计算涉及到函数微分的计算，一般来说主要有三种方式来计算函数的微分。Numerical DifferentiationSymbolic D
本文主要介绍tensorflow的自动训练的相关细节，并把自动训练和基础公式结合起来。如有不足，还请指教。写这个的初衷：有些教程说的比较模糊，没体现出用意和特性或应用场景。面向对象：稍微了解点代码，又因为有限的教程讲解比较模糊而一知半解的初学者。（更多相关内容，比如相关优化算法的分解和手动实现，EMA、BatchNormalization等用法，底部都有链接。）
TensorFlow 2.0要来了。昨天，谷歌大脑的Martin Wicke在一封公开邮件里，给这座即将造好的里程碑，做了个预告。他说今年晚些时候，TensorFlow 2.0的一个预览 (Preview) 版本，就会和程序员们见面了。在那之前，大家应该对这次重大更新，抱些怎样的期待？邮件列举了以下几条：· Eager Execution成为2.0的一个核心功能。这个命令式的编程环境，
目录tensorflow 自定义层扩展tf.keras.Layer类并实现init()build()add_weight()组合层创建ResNet残差快实例对象调用build()函数查看模型整体 tensorflow 自定义层通常机器学习的模型可以表示为简单层的组合与堆叠，使用TensorFlow中的tf.keras来构建模型。 扩展tf.keras.Layer类并实现init：在其中执行所有与输
转载
2024-05-16 15:08:09
79阅读
目录（注意本文jupyterlab编写）预先导入数据模型原型（用作对比）自定义损失函数自定义损失函数保存和加载自定义损失函数自定义损失配置函数自定义损失类HuberLoss保存和加载自定义损失类的模型自定义激活函数自定义激活函数激活函数类自定义初始化自定义初始化函数初始化类自定义正则化自定义正则化函数正则化约束类模型的保存和加载自定义约束自定义约束函数权重约束类实现自定义指标自定义指标类自定义层
转载
2024-04-08 15:44:16
72阅读
tensorflow2自定义损失函数 一、总结 一句话总结： 直接定义函数，然后在compile时传给loss即可 def customized_mse(y_true, y_pred): return tf.reduce_mean(tf.square(y_pred - y_true)) model
转载
2020-08-06 04:04:00
585阅读
2评论
机器学习问题不仅是一个科学问题，更是一个工程问题。大多数年轻的数据科学家都希望将大部分时间花在构建完美的机器学习模型上，但是企业不仅需要训练一个完美的模型，同时也需要将其部署，向用户提供便捷的服务。如下图所示，机器学习系统由机器学习代只包含一小部分，而在中间的小黑匣子周围，所需要的基础设施庞大而复杂。因此，在实际应用中，一个优秀的程序员不仅要学会构建完美的机器学习模型上，同时还需要将其部署向用户提
转载
2024-04-26 13:41:27
95阅读
TensorFlow 支持多种常用运算符（Operations，简称 Op），如矩阵乘 matmul、卷积 conv2d 等。 由这些运算符可以构建复杂的计算图（Graph）。核函数（Kernel）是运算符的特定实现，可以运行在特定类型设备上（如 CPU 或 GPU ）。 TensorFlow 通过注册机制来确定支持的运算符集合和核函数，便于进一步扩展。 今天给一个利用 C++ 编写 Tenso
转载
2024-05-24 22:40:36
116阅读
当我们在说GPU并行计算时，其实是指的基于CPU+GPU的异构计算架构。典型的CUDA程序的执行流程如下： 分配host内存，并进行数据初始化； 分配device内存，并从host将数据拷贝到device上； 调用CUDA的核函数在device上完成指定的运算； 将device上的运算结果拷贝到host上； 释放device和host上分配的内存。kernel是在device上线程中并行执行的函数
转载
2024-08-27 17:47:25
0阅读
前文：三分钟快速上手TensorFlow 2.0 （中）——常用模块和模型的部署TensorFlow 模型导出 使用 SavedModel 完整导出模型不仅包含参数的权值，还包含计算的流程（即计算图）tf.saved_model.save(model, "保存的目标文件夹名称")将模型导出为 SavedModelmodel = tf.saved_model.load("保存的目标文件夹名
转载
2024-05-13 12:55:58
0阅读
TensorFlow2的模型训练组件（2）损失函数损失函数和正则化项Tensorflow2内置的损失函数自定义损失函数评估指标常用的内置评估指标自定义评估指标优化器优化器的使用使用optimizer.apply_gradients使用optimizer.minimize使用model.fitTensorflow2内置的优化器回调函数内置回调函数自定义回调函数参考资料 损失函数一般地，监督学习的目
转载
2024-04-22 19:32:12
18阅读
TensorFlow2 手把手教你实现自定义层.
原创
2021-06-16 02:50:16
237阅读
TensorFlow2的高层封装使用Tensorflow2构建模型的3种方法使用Sequential按层顺序构建模型使用函数式API创建任意结构的模型使用Model子类化创建自定义模型训练模型的3种方法内置fit方法内置train_on_batch方法自定义训练循环使用GPU训练模型使用单GPU训练模型使用多GPU训练模型使用TPU训练模型使用Tensorflow-serving部署模型Tens
节选自《简单粗暴 TensorFlow 2.0》，回复关键字“手册”获取合集 接下来我们将介绍 TensorFlow 中模型的部署与导出，本文介绍使用 SavedModel 完整导出模型。使用 SavedModel 完整导出模型在部署模型时，我们的第一步往往是将训练好的整个模型完整导出为一系列标准格式的文件，然后即可在不同的平台上部署模型文件。这时，TensorFlow 为我们提供了 SavedM
转载
2024-04-18 11:46:40
29阅读
自定义模型 4.3自定义层 通过对 tf.keras.layers.Layer 进行子类化并实现以下方法来创建自定义层：build：创建层的权重。使用 add_weight 方法添加权重。call：定义前向传播。compute_output_shape：指定在给定输入形状的情况下如何计算层的输出形状。 或者，可以通过实现 get_config 方法和 from_config 类方法序列化层。cla
转载
2024-04-08 07:58:29
124阅读
TensorFlow2的核心概念Tensorflow中的张量常量张量变量张量Tensorflow中的计算图计算图介绍静态计算图动态计算图Autograph张量Tensor、图Graph、操作Operation、会话Session模型Model与层LayerTensorflow中的自动微分机制利用梯度磁带求导数利用梯度磁带和优化器求最小值参考资料 TensorFlow是一个采用 数据流图（dat
转载
2024-06-11 21:57:01
24阅读
在tensorflow2.0里面，最典型和常用的神经网络结构是将一堆层按特定顺序叠加起来，那么，我们是不是只需要提供一个层的列表，就能由 Keras 将它们自动首尾相连，形成模型呢？Keras 的 Sequential API 正是如此。通过向 tf.keras.models.Sequential() 提供一个层的列表，就能快速地建立一个 tf.keras.Model 模型并返回，就如我之前写到的
学习tensorflow先要了解它编码的流程，在此简要描述一下其流程，所有的TensorFlow训练神经网络的过程大致可以分为以下三个过程：1、定义神经网络的结构和前向传播的输出结果。2、定义损失函数以及选择反向传播优化的算法。3、生成会话并且在训练数据上反复运行反向传播优化算法。无论神经网络结构如何变化，这三个步骤是不变的。当然，每一步里面涉及到的方法和函数是比较复杂的，真正学好神经网络不止要了
转载
2024-03-26 15:46:08
66阅读
