文章目录前言一、TensorFlow1.x1.在2.x环境中运行1.x程序2.定义计算图3.变量初始化4.创建执行会话5.占位符6.TensorBoard可视化工具二、TensorFlow2.x1.Tensor类2.张量创建3.维度变换4.张量索引5.张量运算总结 前言简单记录一些TensorFlow1.x中的操作，主要记录TensorFlow2.x中张量的创建和运算。一、TensorFlow1
转载
2024-04-01 06:45:20
57阅读
说明此系列文档为学习中国大学mooc,浙江大学开设的《深度学习应用开发-TensorFlow实践》随堂笔记。介绍TensorFlow是一个开放源代码软件库，用于高性能数值计算。借助其灵活的架构，可以将工作灵活地部署在多种平台（CPU,GPU,TPU）和多种设备（桌面设备，服务器集群，移动设备，边缘设备等）最初由Google Brain团队的工程师与研究院研发，可为机器学习与深度学习提供强力支持。开
转载
2024-10-17 17:25:35
45阅读
在TensorFLow2中进行神经网络模型的训练主要包括以下几个主要的步骤：导入相关模块import准备数据，拆分训练集train、测试集test搭建神经网络模型model (两种方法：Sequential或自定义模型class)模型编译model.compile()模型训练model.fit()查看模型model.summary()模型评价模型预测model.predict()model.com
转载
2024-07-15 14:00:38
74阅读
该部分内容主要介绍了介绍了如何创建张量，对张量进行索引切片，维度变换和常见的数学运算等操作。1、数据类型标量、向量、矩阵。import os
os.environ['TF_CPP_MIN_LOG_LEVEL']='2'
import tensorflow as tf
a = 1.2
aa = tf.constant(1.2) # 创建标量
b = tf.constant([1.2,
前言在深度学习中，有时候我们需要对某些节点的梯度进行一些定制，特别是该节点操作不可导（比如阶梯除法如），如果实在需要对这个节点进行操作，而且希望其可以反向传播，那么就需要对其进行自定义反向传播时的梯度。在有些场景，如[2]中介绍到的梯度反转(gradient inverse)中，就必须在某层节点对反向传播的梯度进行反转，也就是需要更改正常的梯度传播过程，如下图的所示。在tensorflow中有若干
定义tensorflow的输入节点：tensorflow的输入节点定义方式基本上有三种，分别是：通过占位符定义、通过字典类型定义、直接定义。其中最常用的就是通过占位符定义、通过字典类型定义。这两种的区别在于当输入比较多的时候一般使用字典类型定义。下面通过代码来进行详细的解释：通过占位符来进行定义：1 X = tf.placeholder("float") # 代表x的输入值
2 Y = tf.pl
转载
2024-05-18 15:07:15
48阅读
本文介绍 机器学习 TensorFlow2.0 官方入门程序。我觉得这个入门程序不容易看懂，所以做一个解说。其实更简单易懂的入门程序是我的 机器学习 tensorflow 2 的hello world机器学习 TensorFlow2.0 官方入门程序在 https://tensorflow.google.cn/overview/ ，有个中文翻译解释了的在 T
目录1、TensorFlow2.0主要特征2、架构2.1 read &preprocess data2.2 tf.keras2.3 Premade Estimators2.4 distribution strategy2.5 SaveModel3、开发流程4、强大的跨平台能力5、 强大的研究实验1、TensorFlow2.0主要特征tf.keras和eager mode更加简单鲁棒的跨平台
1 处理结构计算图纸Tensorflow先要定义神经网络的结构, 然后再把数据放入结构当中去运算和 training. 因为TensorFlow是采用数据流图（data flow graphs）来计算, 所以首先我们得创建一个数据流流图, 然后再将我们的数据（数据以张量(tensor)的形式存在）放在数据流图中计算. 节点（Nodes）在图中表示数学操作,图中的线（edges）则表示在节点间相互联
转载
2024-06-16 20:53:03
151阅读
剪枝——预剪枝、后剪枝
原创
2024-07-10 16:35:08
72阅读
SticksTime Limit: 2000/1000 MS (Java/Others) Memory Limit: 65536/32768 K
原创
2022-08-05 11:25:20
74阅读
搜索算法按搜索的方式分有两类，一类是深度优先搜索，一类是广度优先搜索。我们知道，深度搜索编程简单，程序简洁易懂，空间需求也比较低，但是这种方法的 时间复杂度往往是指数级的，倘若不加优化，其时间效率简直无法忍受；而广度优先搜索虽然时间复杂度比前者低一些，但其庞大的空间需求量又往往让人望而却步。 所以，对程序进行优化，就成为搜索算法编程中最关键的一环。本文所要讨论的便是搜索算法中优化程序的一种基本方法
剪枝算法学习1）微观方法：从问题本身出发，发现剪枝条件2）宏观方法：从整体出发，发现剪枝条件。3）注意提高效率。上下界剪枝问题。1、简介 在搜索算法中优化中，剪枝，就是通过某种判断，避免一些不必要的遍历过程，形象的说，就是剪去了搜索树中的某些“枝条”，故称剪枝。应用剪枝优化的核心问题是设计剪枝判断方...
转载
2015-04-20 16:04:00
162阅读
2评论
将复杂的决策树进行简化的过程称为剪枝，它的目的是去掉一些节点，包括叶节点和中间节点。剪枝常用方法：预剪枝与后剪枝两种。 预剪枝：在构建决策树的过程中，提前终止决策树生长，从而避免过多的节点产生。该方法不实用，我们无法判断何时终止树的生长。 后剪枝：在决策树构建完成后，再去掉一些节点。常见的后剪枝方法有四种：1.悲观错误剪枝（PEP）2.最小错误剪枝（MEP）3....
原创
2022-02-03 11:14:08
343阅读
将复杂的决策树进行简化的过程称为剪枝，它的目的是去掉一些节点，包括叶节点和中间节点。
剪枝常用方法：预剪枝与后剪枝两种。
预剪枝：在构建决策树的过程中，提前终止决策树生长，从而避免过多的节点产生。该方法不实用，我们无法判断何时终止树的生长。
后剪枝：在决策树构建完成后，再去掉一些节点。
常见的后剪枝方法有四种：
1.悲观错误剪枝（PEP）
2.最小错误剪枝（MEP）
3.代价复杂度剪枝（
原创
2021-07-09 15:30:26
3423阅读
核心思想通道裁剪的效果细节补充"看图说话"目标函数解读 论文题目： Channel Pruning for Accelerating Very Deep Neural Networks文献地址：https://arxiv.org/pdf/1707.06168.pdf源码地址：https://github.c
转载
2024-06-24 18:37:22
591阅读
五、剪枝处理
过拟合：在决策树学习过程中，为了尽可能正确分类训练样本，结点划分过程将不断重复，有时会造成决策树分支过多，这时就可能会因训练样本学得太好，以致于把训练集自身的一些特点当作所有数据都具有的一般性质导致过拟合。
转载
2023-05-29 23:26:47
142阅读
剪枝教程目录摘要前提需要创建模型检视模块对一个模型进行剪枝迭代剪枝序列化修剪过的模型修剪再参量化修剪模型中的多个参数全局剪枝使用自定义修剪功能扩展torch.nn.utils.prune摘要 最先进的深度学习技术依赖于难以部署的过度参数化模型。相反，已知生物神经网络使用高效的稀疏连接。为了在不牺牲精度的情
转载
2023-12-13 19:58:49
95阅读
Gate Decorator: Global Filter Pruning Method for Accelerating Deep Convolutional Neural Networks相关背景过滤器的修建不会改变模型的设计理念且易于和其他压缩，加速技术结合。不需要专门的硬件和软件进行加速。过滤器修建的研究可以主要分为两类：逐层修建和全局修建。由于每层网络需要预定义修建率，对于深度卷积，逐层
转载
2023-10-27 01:12:36
105阅读
在网络的许多参数中，有些是冗余的，对输出的贡献不大。如果您可以根据神经元在神经网络中的贡献程度对其进行排名，则可以从网络中删除排名较低的神经元，从而使网络更小，更快。 建立更快/更小的网络对于在移动设备上运行这些深度学习网络很重要。可以根据神经元权重的L1 / L2平均值，其平均激活次数，某个验证集上神经元不为零的次数以及其他创造性方法来进行排名。修剪后，准确性将下降（修剪较少，下降不会太大），并
转载
2024-02-26 17:27:42
96阅读
