参考书《TensorFlow:实战Google深度学习框架》(第2版)一个简单的程序来生成样例数据。#!/usr/bin/env python# -*- coding: UTF-8 -*-# coding=utf-8 """@author: Li Tian@contact: 694317828@.com@software: pycharm@file: samp...
原创 2021-11-16 17:38:22
166阅读
Pytorch的DataParallel多GPUPytorch实时可视化pytorch中的深浅拷贝和引用pytorch记录pytorch设置可学习系数pytorch_loss可学习weightpytorch eval时显存炸的问题tensorflow记录train的时候标准化等CNNTricksPytorch的DataParallel多GPU可以多卡并行训练,但是当输入size过大或者模型过大(一
TensorFlow1.X】系列学习文章目录【环境搭建】 【入门一】 【入门二】 【入门三】 【入门四】【TensorFlow1.X】系列学习笔记【环境搭建】大量经典论文的算法均采用 TF 1.x 实现, 为了阅读方便, 同时加深对实现细节的理解, 需要 TF 1.x 的知识文章目录【TensorFlow1.X】系列学习文章目录【TensorFlow1.X】系列学习笔记【环境搭建】简介Tenso
综述 TensorFlow是一个编程系统,用图来表示计算任务,描述了计算过程图中结点表示为op(operation),一个op获得0或多个tersortensor是一个多维数组,在图中表示边图必须在会话Session里启动变量需初始化tf.global_variables_initializer()TensorFlow程序可以看做独立的两部分:构建计算图 与 运行计算
转载 2024-03-15 09:38:20
37阅读
鉴于tensorflow目前正在更新2.0版本,博主对博客也新增了适用于2.0版本动态度转换方法,更新于 --2019//09//29图1 numpy 图2 tensorflow - 问题描述在我们使用TensorFlow进行深度学习训练时,很多时候都是与Numpy数据打招呼,例如我们csv或者照片数据等。 但是我们都知道,TensorFlow训练时都是使用Tensor来存储变量的,并且网络输出的
import tensorflow as tf def _int64_feature(value): return tf.train.Feature(int64_list=tf.train.Int64List(value=[value])) num_shards = 2 instances_per_shard = 2 for i in range(num_shards): ...
转载 2019-05-18 12:48:00
74阅读
2评论
TensorFlow能够并行处理多个任务,而队列是一种强大的异步计算机制。
转载 2021-08-04 11:43:13
458阅读
最近在做可以转成pb模型的RNN/LSTM层的实现细节分析。经过一些分析,发现了在Keras里面常见的keras.layers.LSTM和Tensorflow的tf.contrib.rnn.LSTMCell有一些实现上面的区别。本文将立足于Keras和Tensorflow源码,分别搭建两个简单的一层LSTM的神经网络,验证权重的解析顺序及计算逻辑的正确性。Let’s roll~0. 常见的LSTM
转载 2024-03-26 11:16:06
159阅读
TensorFlow 是什么TensorFlow 是一个深度学习库,由 Google 开源,可以对定义在 Tensor(张量)上的函数自动求导。Tensor(张量) 意味着 N 维数组,Flow(流) 意味着基于数据流图的计算,TensorFlow 即为 张量从图的一端流动到另一端一大亮点是支持异构设备分布式计算,它能够在各个平台上自动运行模型,从电话、单个 CPU / GPU 到成百上千 GPU
本节学习资源来自《TensorFlow深度学习应用实践》TensorFlow 队列队列(Queue)是一种最为常用的数据
原创 2018-09-18 22:01:56
84阅读
一、准备工作1、加载数据集import tensorflow as tf import numpy as np class MNISTLoader(): def __init__(self): mnist = tf.keras.datasets.mnist (self.x_train, self.y_train), (self.x_test, self.y
转载 6月前
40阅读
读数总结:使用tf构建一个简单的SLP模型,部分定义需要在上一学习笔记中复习。分为导入模块、数据构建、模型定义、学习阶段、测试及准确率计算,共五个部分。##5.1 导入模块此次建模主要用到numpy用于构建数据,TensorFlow用于构建模型,matplotlib用于数据可视化。 ##5.2 数据构建本次学习的数据是11个点的坐标及对应的点的类型,建模的目标是找到一条直线能够正确划分两
准备数据前期已经将数据生成了tfrecord格式,这里主要是研究如果从tfrecord格式文件中读取数据batch读文件名获取tf_record格式的文件名列表 1 tf_record_pattern = os.path.join(FLAGS.data_dir,'%s-*' %self.subset) # subset in ['train','validation'] 2 data_file
每日一贴,今天的内容关键字为队列输入队列是先进先出的数据结构,出队的一端叫队首,入队的一端叫队尾,就像是平常生活中排队买火车票一样,上面是队列的基本操作每日一道理 生命不是一篇"文摘",不接受平淡,只收藏精彩。她是一个完整的过程,是一个"连载",无论胜利还是
转载 2013-05-19 19:56:00
190阅读
2评论
一、tensorflow读取机制图解我们必须要把数据先读入后才能进行计算,假设读入用时0.1s,计算用时0.9s,那么就意味着每过1s,GPU都会有0.1s无事可做,这就大大降低了运算的效率。解决这个问题方法就是将读入数据和计算分别放在两个线程中,将数据读入内存的一个队列,如下图所示:读取线程源源不断地将文件系统中的图片读入到一个内存的队列中,而负责计算的是另一个线程,计算需要数据时,直接从内存队
参考书《TensorFlow:实战Google深度学习框架》(第2版)对于队列,修改队列状态的操作主要有Enqueue、EnqueueMany和Dequeue。以下程序展示了如何使用这些函数来操作一个队列。#!/usr/bin/env python# -*- coding: UTF-8 -*-# coding=utf-8 """@author: Li Tian@con...
原创 2021-11-16 17:38:13
221阅读
tensorflow由于其基于静态图的模式,导致写代码的时候很难调试,除了用官方的调试工具外,最直接的方法就是把中间结果输出出来查看,然而,直接用print函数只能输出tensor变量的形状,而不是数值,想要输出tensor的具体数值需要用tf.Print函数。网上有很多关于这个函数使用方法的说明,这里简要介绍:Print( input_, data, message=No
以下记录为我在电脑上安装的过程(2018.4.28):版本信息:win10python3.6.5tensorflow-gpu1.8.0CUDA9.0cuDNN7.1说明:1.为啥要安装这几个?tensorflow是微软家出的一个用来做深度学习的开源库,这个库有两个版本一种是在CPU上运行,安装方法为:pip install tensorflow一种是在GPU上运行,安装方法为pip install
转载 2024-07-24 16:51:20
15阅读
LSTM1.简介2.RNN2.1RNN原理内容介绍2.1优缺点3.LSTM3.1RNN差异3.2 LSTM内部结构3.3 LSTM代码 1.简介长短期记忆网络(Long-Short Term Memory,LSTM)论文首次发表于1997年。由于独特的设计结构,LSTM适合于处理和预测时间序列中间隔和延迟非常长的重要事件。 LSTM的表现通常比时间递归神经网络及隐马尔科夫模型(HMM)更好,比如
tensorflow的数据读取一共有三种方式供给数据(Feeding):在Tensorflow程序运行的每一步,让python代码来供给数据从文件读取数据:在tensorflow图的起始,让一个输入管线从文件中读取数据预加载数据:在tensorflow图中定义常量或变量来保存所有数据(仅仅适用于数据量比较小的情况)供给数据tensorflow的数据供给机制允许你在tensorflow运算图中将数据
转载 2024-03-29 14:07:39
50阅读
  • 1
  • 2
  • 3
  • 4
  • 5