摘要 2015年11月9日,Google发布深度学习框架TensorFlow并宣布开源,并迅速得到广泛关注,在图形分类、音频处理、推荐系统和自然语言处理等场景下都被大面积推广。TensorFlow系统更新快速,官方文档教程齐全,上手快速且简单易用,支持Python和C++接口。本文依据对Tensorflow(简称TF)白皮书[1]、TF Github[2]和TF官方教程[3]的理解,从系统和代码
转载
2024-05-07 21:04:54
51阅读
论文下载地址 cosface,tensorflow源代码下载地址:cosface code。模型的训练通过train_multi_gpu.py实现,数据加载部分同之前介绍的方法类似,这里重点说一下网络结构和损失函数部分的代码,默认采用的网络结构是sphere_network,其主要实现在sphere_network.py的infer函数:def infer(input,embedding
转载
2024-08-11 20:20:55
171阅读
人工智能、机器学习和深度学习 在介绍TensorFlow(以下简称为TF)之前,我们首先了解一下相关背景。TF是一种机器学习框架,而机器学习经常和人工智能,深度学习联系在一起,那么三者到底是什么关系呢?简单来讲三者可以理解为包含于被包含的关系。其中最大的是人工智能(以下简称为AI),AI最早起源于1956年的达特茅斯会议,当时AI的几位先驱在会上展示了最早的AI程序:Logic Theoris
TensorFlow0.8发布以来受到了大量机器学习领域爱好者的关注,目前其项目在github上的follow人数在同类项目中排名第一。作为google的第一个开源项目,TensorFlow的源码结构较为清晰,相关的代码注释覆盖较全。本文首先从代码结构入手,分析TesnsorFlow的各个模块构成。根目录结构的相关介绍以下是TensorFlow项目根目录下的文件结构(目前以TensorFlow-0
转载
2024-04-12 06:18:32
31阅读
本文介绍下 RNN 及几种变种的结构和对应的 TensorFlow 源码实现,另外通过简单的实例来实现 TensorFlow RNN 相关类的调用。RNNRNN,循环神经网络,Recurrent Neural Networks。人们思考问题往往不是从零开始的,比如阅读时我们对每个词的理解都会依赖于前面看到的一些信息,而不是把前面看的内容全部抛弃再去理解某处的信息。应用到深度学习上面,如果我们想要学
原创
2021-01-19 15:06:52
469阅读
关于TensorFlow Serving下面是TensorFlow Serving的架构图:关于TensorFlow Serving的更多基础概念等知识,请看官方文档,翻译的再好也不如原文写的好。这里,我总结了下面一些知识点,我认为是比较重要的:TensorFlow Serving通过Model Version Policy来配置多个模型的多个版本同时serving;默认只加载model的late
转载
2024-10-14 17:19:03
46阅读
zip()函数zip语法zip([iterable, ...])
a=[1,2,3]
b=[4,5,6]
c=[4,5,6,7,8]zip() 函数用于将可迭代的对象作为参数,将对象中对应的元素打包成一个个元组,然后返回由这些元组组成的列表。如果各个迭代器的元素个数不一致,则返回列表长度与最短的对象相同,利用 * 号操作符,可以将元组解压为列表zipp=zip(a,b)
#result
[(1,4
前言源码编译Tensorflow了解tensorflow的工作原理,直接用pip安装tensorflow肯定是不行的,一定要一步步对源码进行编译。首先在Windows上进行了对tensorflow源码编译的尝试,发现不但没有linux条理清晰,并且操作起来也很困难,果断随大流选择了用Linux操作。安装双系统网上有很多版本详细的方法,由于机型不同多多少少还是出现了一些问题。但是这步还算没有遇到多少
本节来详细说明一下 Seq2Seq 模型中一个非常有用的 Attention 的机制,并结合 TensorFlow 中的 AttentionWrapper 来剖析一下其代码实现。Seq2Seq首先来简单说明一下 Seq2Seq 模型,如果搞过深度学习,想必一定听说过 Seq2Seq 模型,Seq2Seq 其实就是 Sequence to Sequence,也简称 S2S,也可以称之为 Encode
原创
2021-01-19 14:52:56
712阅读
这篇教程的主要源代码在ptb_word_lm.py与reader.py两个文件中。教程对应的源代码的github仓库地址。数据下载地址,该教程需要的数据在该下载的文件解压后的data子目录下。该目录的内容如下图所示: 首先介绍reader.py文件的内容: reader.py文件由_reader_words、_builid_vocab、_file_to_wor
转载
2024-04-18 06:28:12
105阅读
通过观看视频,记下此次笔记,笔记内容来自lite深度解析视频。视频来源:https://www.bilibili.com/video/av24219725/ tensorflow lite 定位于设备端智能应用。我们在台式机上使用tensorflow开发出模型,训练出权重,然后使
转载
2024-04-21 07:13:47
59阅读
在 TensorFlow 之中,分布式变量是在多个设备上创建的变量。Mirrored variable 和 SyncOnRead variable 是两个例子。本文就对分布式变量进行分析。
原创
2022-05-05 13:37:58
516阅读
本文我们主要来看看ParameterServerStrategy如何分发计
原创
2022-05-24 10:52:13
487阅读
MirroredStrategy 策略通常用于在一台机器上用多个GPU进行训练。其主要难点就是:如何更新 Mirrored 变量?如何分发计算?本文我们看看其总体思路和如何更新变量。
原创
2022-05-05 13:37:59
459阅读
一. 总论说到Tensoflow serving的编译安装,真的是一把鼻涕一把泪。前前后后折腾了一个星期。在这期间参考了同行的做法,自己也在不断地摸索尝试。 遇到的困难:Tensoflow serving的版本和源码在不断更新,之前成功编译安装的版本在一段时间后,由于github上的Tensoflow serving的源码的更新,变得编译安装不成功。即使是执行官网提供的编译安装指令也无法成功编译安
TensorFlow 2.0源码编译步骤传统pip安装tensorflow限制修改bazel编译版本限制已知编译存在的问题配置configure编译选项Tips: 本文作者:Phillweston,未经允许禁止转载 传统pip安装tensorflow限制1.AVX指令集CPU使用老版本TensorFlow报错 对于不支持AVX指令集的CPU服务器,在python中使用 import tenso
转载
2023-11-26 23:34:36
70阅读
1 - Tensorflow源码目录结构基于2018年5月28日github的tensorflow源码,即1.8版本第一层:tensorflow: 核心代码目录。
third_party:第三方库,包括:eigen3,fft2d,hadoop,mkl,probuf ,kafka,mpi,tensorRT,nccl,grpc等等。
tools:只有两个文件 bazel.rc 和 tf_env_col
转载
2024-03-13 11:38:52
129阅读
读TensorFlow 源码笔记(2): tensorflow的控制流算子(control_flow_op)在阅读TensorFlow源码时,遇到了很多复杂又晦涩的概念,今儿整理以下内容,分享给大家:介绍专门为处理控制流而添加的五个TensorFlow原语运算符,演示如何将高级控制流结构编译为包含这五个原语的数据流图解释TensorFlow运行时如何执行这些数据流图,包括在一组混合设备(如CPU、
转载
2024-08-11 10:54:57
74阅读
tensorflow/tensorflow/该目录下存放着tensorflow的核心代码contrib/该目录下存放有其他项目贡献者添加的相关贡献代码。由于tensorflow受关注程度较高,目前该目录正急剧膨胀。core/后台C++实现部分。包含了主要的 C++代码 和 runtimes 。该目录为tensorflow的C++源码的核心。common_runtime/tensorflow 普通的
转载
2024-05-29 20:21:16
84阅读
在具体介绍 TensorFlow 分布式的各种 Strategy 之前,我们首先需要看看分布式的基础:分布式环境。只有把基础打扎实了,才能在以后的分析工作之中最大程度的扫清障碍,事半功倍。我们接下来介绍缓存机制。
原创
2022-05-05 13:34:23
287阅读