本文以TensorFlow源码中自带的手写数字识别Example为例，引出TensorFlow中的几个主要概念。并结合Example源码一步步分析该模型的实现过程。一、什么是TensorFlow 在这里，引入TensorFlow中文社区首页中的两段描述。关于 TensorFlow
TensorFlow™ 是一个采用数据流图（data flow
graphs），用于数值计算的开源
转载
2024-04-26 17:54:37
57阅读
TensorFlow新版本发布还不到一个月的时间，这个互联网上最受欢迎的机器学习项目却取得了众多进展，刚刚TensorFlow宣布，他们将与TensorRT公司完全整合。TensorRT是一个优化深度学习模型的库，用于在生产环境中的GPU上创建运行时部署。TensorFlow可以利用TensorRTs FP16和INT8 optimization的众多优势，特别是TensorRT在自动选择最有能力
转载
2024-04-25 14:49:08
95阅读
有些网络结构，在子类 layer 中并没有定义，这时就需要我们自己来进行编写，为了更灵活的构建自己想要的神经网络层，我们可以自己来创建网络结构类，当然，构建之前先看一眼官方 API 文档，省得白费功夫那是最好。tensorflow2 官方 API 文档注意：__init__() ，__build__() ，__call__() 均继承自 tf.keras.layers.Layer&nbs
转载
2024-05-22 19:24:53
74阅读
# 理解 Transformer 与 TensorFlow 和 PyTorch 的关系
在现代深度学习领域，Transformer 模型因其在自然语言处理和计算机视觉等方面的出色表现而备受欢迎。理解 Transformer 模型以及如何在 TensorFlow 和 PyTorch 等框架中实现它，是每位开发者都需要掌握的技能。本文将帮助你了解 Transformer 与 TensorFlow 和
PyTorch 是一种用于构建深度学习模型的功能完备框架，同时tensorflow也是常用的框架之一。大家在学习的时候，尝尝会用来做比较。那么pytorch和tensorflow有什么区别？大家所关心的问题，解答来了。pytorch和tensorflow有什么区别？创建和运行计算图可能是两个框架最不同的地方。在PyTorch中，图结构是动态的，这意味着图在运行时构建。而在TensorFlow中，图
转载
2023-08-03 20:32:21
1349阅读
什么是TensorFlow? TensorFlow是Google开源软件库，为机器学习工程中的问题提供了一整套解决方案。类比于Spark/Flink是大数据工程问题的解决方案。该软件库把机器学习中的通用功能封装成了库，并提供了简易的API，使得在构建机器学习系统时不再需要做那些纷繁复杂的数学、工程工作，能把主要精力放在模型和业务上。这就像现在使用编程语言进行编程时，不再需要知道计算机硬件的细节，
转载
2024-02-27 22:21:26
121阅读
opencv与tensorflow入门前言安装Anaconda(windows)图片的读取和写入图片的像素操作tensorflow入门numpy和matplotlib使用人工神经网络实现股票收盘价格逼近 前言在入门计算机视觉和深度学习之前，opencv是必须要学会的一个软件库，不仅要学习它的使用，还要理解它的基本原理。本文将从基础的环境搭建一步步进行CV入门之路。安装Anaconda(windo
转载
2024-02-23 22:47:26
24阅读
最近为了让机器人更加聪慧而善解人意，准备在英伟达的TX2上开发一下视觉目标检测与速度预判，需要一种比较好的方案，因此选择了Retinanet（Resnet）残差网络进行图像的识别。它需要配置TensorFlow1.4.0以上级别的框架，以及Python3.5，于是乎步入了血海深坑至今酸爽不已。接下来是需要注意的坑（对于菜狗来说，很多都是坑，让大神见笑了）：一、ARM内核与X86内核是不同的，在我们
转载
2024-04-13 00:48:43
102阅读
深度了解Transformer【1】前言：Transformer由论文《Attention is All You Need》提出，谷歌云TPU推荐的参考模型。论文相关的Tensorflow的代码可以从GitHub获取，其作为Tensor2Tensor包的一部分。哈佛的NLP团队也实现了一个基于PyTorch的版本，并注释该论文。本文采取逐一的介绍论文里面的核心概念，希望让普通读者也能轻易理解。即会
Transformer模型起初被提出于谷歌《Attention Is All you Need》这篇论文。其完全抛弃了CNN，RNN等结构模式，仅仅通过注意力机制（self-attention）和前向神经网络（Feed Forward Neural Network），不需要使用序列对齐的循环架构就实现了较好的performance 。（1）摒弃了RNN的网络结构模式，其能够很好的并行运算；（2）其
本文是针对谷歌Transformer模型的解读，另外，针对Kyubyong实现的tensorflow代码进行解读，代码地址https://github.com/Kyubyong/transformer
本文是针对谷歌Transformer模型的解读，根据我自己的理解顺序记录的。另外，针对Kyubyong实现的tensorflow代码进行解读，代码地址ht
转载
2024-05-09 09:31:10
49阅读
1.线程和队列1.抛弃传统tensorflow中的同步方法，既是训练操作必须要等数据传入之后才能开始运行，取而代之的是tensorflow中的线程和队列。将数据的输出和取出用队列形式操作，将其放在不同的线程中，这样就可以取代传统的方法。import time
import tensorflow as tf
from tensorflow.contrib.rnn import LSTMCell
转载
2024-03-22 14:53:47
55阅读
Numpy基础数组基础在学习tensorflow之前我们先要了解一些numpy的使用方法，因为在tensorflow使用中初期的数据一般都是由numpy来处理的。
首先我们要知道numpy主要是用来进行高维数组运算的，其实我们使用python的内置list列表数据类型，也可以自己完成这些操作，但缺点也特别的明显，一个就是编码比较复杂，完成一个简单的功能需要编写较多的代码，而用numpy可能就是一句
转载
2023-11-17 10:45:48
225阅读
大家好，这里是 NewBeeNLP。关于 Transformer ，这是一篇很好的学习指南，可以帮助你熟悉最流行的 Transformer 模型。
自 2017 年提出至今，Transformer 模型已经在自然语言处理、计算机视觉等其他领域展现了前所未有的实力，并引发了 ChatGPT 这样的技术突破，人们也提出了各种各样基于原始模型的变体。由于学界和业界不断提出基于 Transfo
win10安装tensorflow安装anacondaanaconda下载地址，勾选添加环境变量，anaconda3表示python3安装CUDA查看tensorflow，python，cuDNN，CUDA对应型号 我安装tensorflow2，所以下载python3.6，cuDNN7.4，CUDA10 安装完，打开anaconda prompt终端，输入nvcc -V显示版本则成功。安装cuDN
菜鸟学TensorFlow 2.0：TensorFlow2.0安装与环境配置1. TensorFlow概述2. TensorFlow依赖环境搭建3. TensorFlow 2安装3. 第一个TensorFlow程序 1. TensorFlow概述Tensorflow是当今深度学习很流行的一个框架，它是由谷歌开发的深度学习框架到现在已经发布到了TF2.0版本了。TensorFlow 2 废弃了大量
转载
2024-05-14 07:31:10
34阅读
文章目录项目介绍代码实现1、导入需要的库2、导入数据集3、将文本编码成数字形式3.1 使用 tfds.features.text.Tokenizer() 函数3.1.1 建立词汇表并统计词汇表中的单词数量3.1.2 建立编码器3.1.3 对所有样本进行编码3.1.3.1 删除过长的样本3.1.3.2 编码函数3.1.3.3 将样本打乱、分批3.2 使用 tf.keras.preprocessin
转载
2024-01-05 19:11:55
32阅读
# PyTorch与Transformer的关系探讨
在深度学习领域，PyTorch与Transformer架构已经成为了研究与应用的热点。PyTorch是一个灵活且高效的深度学习框架，广泛应用于各种深度学习任务。而Transformer是一种用于序列到序列任务的模型架构，尤其在自然语言处理（NLP）中表现突出。
## PyTorch简介
PyTorch是一个开源的深度学习框架，支持动态计算
隔壁小白都简单哭了准备：MacOS（我的系统是10.12.6，比较懒很少更新）python 3.6（忘掉2.7吧~已经是遗留版本啦~下载地址 https://www.python.org/downloads/ 现在已经更到3.7了，安装好了在终端用python命令检查一下，可以正常进入自带IDE并且显示版本信息就没问题了）Pycharm （个人认为python最好用的IDE没有之一，communi
转载
2024-06-11 13:44:42
43阅读
1 序言近期抽空重整了一遍Transformer(论文下载)。距离Transformer提出差不多有四年了，也算是一个老生常谈的话题，关于Transformer的讲解有相当多的线上资源可以参考，再不济详读一遍论文也能大致掌握，但是如果现在要求从零开始写出一个Transformer，可能这并不是很轻松的事情。笔者虽然之前也已经数次应用，但是主要还是基于Tensorflow和keras框架编写，然而现
转载
2024-06-09 08:26:51
21阅读
