神经网络的初探现在来看一个神经网络的第一个具体例子，它利用了Python库Keras来学习对手写数字进行分类。 Mnist是一个含有10类的28 * 28 灰度图片，可以将“解决”MNIST看作是深度学习的“Hello World”，需要做的是验证实现的算法是否按预期工作。在Keras上加载Mnist数据集from keras.datasets import mnist
(train_images
Keras提供两种学习率适应方法，可通过回调函数实现。 1. LearningRateScheduler 该回调函数是学习率调度器. 参数 schedule：函数，该函数以epoch号为参数（从0算起的整数），返回一个新学习率（浮点数） 代码 2. ReduceLROnPlateau 当评价指标不在
转载
2019-03-20 14:49:00
227阅读
2评论
from keras.callbacks import ReduceLROnPlateaureduce_lr = ReduceLROnPlateau(monitor=‘val_loss’, factor=0.5, patience=2, verbose=1)monitor：监测的值，可以是accuracy，val_loss,val_accuracyfactor：缩放学习率的值，学习率将以lr = lr*factor的形式被减少patience：当patience个epoch过去而模型性能不提升
原创
2022-02-11 10:30:42
395阅读
from keras.callbacks import ReduceLROnPlateaureduce_lr = ReduceLROnPlateau(monitor=‘val_loss’, factor=0.5, patience=2, verbose=1)monitor：监测的值，可以是accuracy，val_loss,val_accuracyfactor：缩放学习率的值，学习率将以lr = lr*factor的形式被减少patience：当patience个epoch过去而模型性能不提升
原创
2021-06-18 14:14:11
1939阅读
monitor：被监测的量factor：每次减少学习率的因子，学习率将以lr = lr*factor的形式被减少patience：当patience个epoch过去而模型性能不提升时，学习率减少的动作会被触发mode：‘auto’，‘min’，‘max’之一，在min模式下，如果检测值触发学习率减少。在max模式下，当检测值不再上升
转载
2023-05-18 17:08:33
167阅读
概要目前仍然在在广州的实习公司继续实习，为了更好的完成任务，以及未来的开题，现在必须仔细学习GAN。之前将GAN和DCGAN两篇论文仔细阅读完了，之后为了检验学习成果写下了这份DCGAN生成手写数字的代码。虽然是GAN系列的第一篇文章，本想着先从GAN最初论文说起，但是由于很久没更新了博客或者公众号了，想赶紧更新一篇回馈粉丝。巧合的是，GAN的结果展示多为各种图片，转念一想利用讲解代码和展示结果方
模型搭建要素及sequential
原创
2021-08-02 16:03:02
190阅读
模型搭建要素及sequential
原创
2021-08-02 16:02:49
259阅读
正则化Dropout激活函数
原创
2023-03-08 01:14:36
121阅读
目录一、数据集加载1.图片数据方法1：数据管道Datasets方法2：生成器generator2.文本数据二、模型的构建1.利用网络的API直接搭建，从INPUT开始2.自定义model3.自定义Layer4.利用提供的网络模型三、模型的编译（定义优化方法、损失函数、评价）内置优化器：内置损失函数：自定义损失函数a.函数的形式b.类的形式四、回调函数callback内置回调函数的类：自定义回调函
转载
2024-03-08 21:37:07
67阅读
Python: sklearn库 —— 数据预处理数据集转换之预处理数据： 将输入的数据转化成机器学习算法可以使用的数据。包含特征提取和标准化。 原因：数据集的标准化（服从均值为0方差为1的标准正态分布（高斯分布））是大多数机器学习算法的常见要求。 如果原始数据不服从高斯分布，在
转载
2023-07-18 09:38:15
100阅读
python_数据输入在机器学习中对数据的读入，预处理，清洗十分重要，这部分我们就从如何用python读入数据开始（1） 首先我们先来对python的一些数据类型进行一个回顾，暂时就list与numpy做简要介绍我们先看下面的结果：两个类型还是有区别的，可以用list来初始化numpy（以行来堆叠）,list的apend函数可以增加元素，numpy不支持这个函数>>> impor
转载
2024-10-21 10:11:06
43阅读
安装pip install kerasKeras 有两个 Backend，也就是 Keras 基于什么东西来做运算
Keras 的两个 Backend，一个是 Theano，一个是 TensorFlow
每次当我们 import keras 的时候, 就会看到屏幕显示当前使用的 Backend>>> import keras
Using TensorFlow backend
转载
2023-12-24 00:07:30
69阅读
## 项目方案：基于PyTorch的学习率调整策略
### 1. 概述
在深度学习任务中，学习率的选择对模型的收敛速度和最终性能起着关键作用。然而，通常情况下固定的学习率往往无法在训练过程中适应不同的数据分布和模型参数状态。因此，根据损失函数的变化来自动调整学习率是一种常见的策略。
本文将介绍如何使用PyTorch来实现根据损失函数动态调整学习率的方法，以提高模型训练的效果。
### 2.
原创
2023-10-26 10:28:11
320阅读
一.TensorFlow资源介绍：本资源旨在通过示例轻松深入了解TensorFlow。 为了便于阅读，它包括notebook和带注释的源代码。它适合想要找到关于TensorFlow的清晰简洁示例的初学者。 除了传统的“原始”TensorFlow实现，您还可以找到最新的TensorFlow API实践（例如layers,estimator,dataset, …）。配置环境：python 3.6以上
# 如何使用Keras和TensorFlow深度学习框架
作为一名经验丰富的开发者，我将会指导你如何使用Keras和TensorFlow深度学习框架。下面是整个过程的步骤：
| 步骤 | 描述 |
|------|--------------------------------------|
| 1 | 安装TensorFl
原创
2024-06-19 04:28:00
38阅读
模型输入区别区别pytorchkerasAPItorch.tensorInput形状NCHWNHWC缩写意义>API（
原创
2023-03-09 07:40:15
1173阅读
【GiantPandaCV导读】learning rate对模型调优重要性不言而喻，想到超参数调优第一个可能想到的方法就是网格搜索Grid Search，但是这种方法需要大量的计算资源。之前使用fastai的时候发现其集成了一个功能叫lr_finder(), 可以快速找到合适的学习率，本文就主要分析
原创
2021-12-29 10:19:37
1106阅读
一个月Pytorch从入门到实践学习时间：学习内容：3-2 张量，标量，向量，矩阵3-3 tensor创建理论3-4 tensor创建代码3-5 tensor属性tensor 属性类别例子设备属性稀疏属性3-6 稀疏张量编程实践3-7 tensor算术运算加法运算add减法运算sub乘法mul（区别矩阵乘）除法div矩阵乘法（5种）幂运算3-8 tensor算术运算编程实现3-9 in-plac
我们在训练的过程中，经常会出现loss不再下降的问题，但是此时gradient可能并没有很小，并非处于驻点。 可能是出现了梯度在山谷的山谷壁之间来回震荡的情况。gradient依然很大，但是loss不再减小了。 整个训练过程中，每个参数都一直使用同一个学习率，对于优化而言是不够的。学习率调整的原则是 ...
转载
2021-09-12 14:34:00
1190阅读
2评论
