本篇博客我们将使用pytorch实现一下循环神经网络模型(LSTM).完整代码1.数据预处理# 实现参考 https://github.com/pytorch/examples/tree/master/word_language_model
#! pip install torch #安装torch
import torch
import torch.nn as nn
import numpy a
转载
2023-11-23 22:53:00
59阅读
使用Python，Keras和TensorFlow训练第一个CNN这篇博客将介绍如何使用Python和Keras训练第一个卷积神经网络架构——ShallowNet，并在动物和CIFAR-10数据集上对其进行了训练。ShallowNet对动物的分类准确率为71%，比以前使用简单前馈神经网络的最佳分类准确率提高了12%。当应用于CIFAR-10时，ShallowNet达到了60%的精度，比以前使用简单
一、普通RNN最简单的RNN网络可以看成，在全连接网络的基础上，在每一层网络中增加一个将自己层的输出连接到在自己层的输入，如下图： &n
转载
2024-07-11 23:10:06
99阅读
损失函数我们之前讲了我们对于一张图片，我们对其进行打分，代表它被分为某一类的可能性，那么我们需要建立一个损失函数来对这个分类器的好坏进行衡量我们定义SVM损失函数有如下形式。SVM只是一个二元分类器，我们将其进行推广到多元的情况，定义了SVM损失函数。我们将正确类的打分与其他类打分做差，如果差值大一某个阈值（在下图例子中阈值为1），则损失函数为0,；若小于阈值，我们将损失函数定义为二者之差加上阈值
转载
2024-03-19 21:02:28
81阅读
# 使用Python绘制CNN的损失函数曲线
## 引言
欢迎来到Python开发者的世界！在本篇文章中，我将教会你如何使用Python绘制卷积神经网络（CNN）的损失函数曲线。作为一名经验丰富的开发者，我将带你逐步完成这个任务。
## 整体流程
接下来，我将按照以下流程为你解释整个实现的步骤。请参考下表：
```mermaid
erDiagram
Developer -->> Ne
原创
2023-11-11 05:08:33
187阅读
CNN是一种人工神经网络，CNN的结构可以分为3层：卷积层(Convolutional Layer) - 主要作用是提取特征。 池化层(Max Pooling Layer) - 主要作用是下采样(downsampling)，却不会损坏识别结果。 全连接层(Fully Connected Layer) - 主要作用是分类。 1.CNN解决的问题CNN卷积神经网络是一种专门用来处理具有类似网格结构的数
转载
2024-04-07 20:54:26
74阅读
# 学习如何实现“Python 损失函数图”
在机器学习模型训练过程中，损失函数用于评估模型的性能。通过可视化损失函数图，我们可以观察到训练过程中的模型改善情况，从而帮助我们调整参数或架构以获得更好的结果。本文将带你一步步实现Python中的损失函数图，适合刚入行的小白。
## 目标流程概述
我们要实现的目标包括以下步骤：
| 步骤 | 说明 |
|------|------|
| 1
原创
2024-09-28 06:06:37
48阅读
上一篇文章《语音降噪模型归纳汇总》，很意外地收到了点赞收藏和关注，如此的反馈给了我极大的鼓舞，这里就再梳理了一下loss函数相关的知识，以求方便能作为一份工具性质的文章展现出来。能力一般，水平有限，欢迎大家指正。目录前言什么是损失（Loss）？ 预测值（估计值）与实际值（预期值、参考值、ground truth）之间会存在差异, “损失”意味着模型因未能产生预期结果而受到的惩罚。损失函数的作用？
转载
2023-10-07 19:19:32
78阅读
# Python绘制回执损失图
## 概述
在机器学习领域中，经常需要评价模型的性能。其中之一是绘制回执损失图，用于观察模型在训练过程中的损失变化情况。本文将介绍如何使用Python绘制回执损失图。
## 流程
下面是实现"Python回执损失图"的流程：
| 步骤 | 描述 |
| ---- | ---- |
| 1 | 导入必要的库和模块 |
| 2 | 准备数据 |
| 3 | 绘
原创
2023-12-28 10:18:12
32阅读
1.什么是过拟合？过拟合（overfitting）是指在模型参数拟合过程中的问题，由于训练数据包含抽样误差，训练时，复杂的模型将抽样误差也考虑在内，将抽样误差也进行了很好的拟合。具体表现就是最终模型在训练集上效果好；在测试集上效果差。模型泛化能力弱。 2、产生过拟合根本原因：（1）观察值与真实值存在偏差 训练样本的获取，本身就是一种 抽样。抽样操作就会存在误差， 也就是你的
# 如何实现损失函数图 Python
## 1. 简介
在机器学习和深度学习中，损失函数（loss function）是用来衡量模型预测结果与真实标签之间差异的指标。通过优化损失函数，我们可以使模型的预测结果更接近真实标签，从而提升模型的性能。本文将介绍在Python中如何实现损失函数图。
## 2. 实现流程
下面是实现损失函数图的流程，具体步骤如下：
| 步骤 | 描述 |
|:---
原创
2023-08-15 12:42:29
223阅读
一、什么是损失函数损失函数用来评估模型预测值和真实值之间的差异。模型的损失越小，模型的鲁棒性越好。二、模型与常用损失函数损失函数模型感知损失Perceptron LossPLAHinge损失Hinge LossSVM对数损失Log Loss逻辑回归平方损失Square Loss回归模型绝对值损失Absolute Loss回归模型指数损失Exponential LossAdaboost三、常用的损失
转载
2024-08-20 15:43:31
212阅读
课程2和3简介CS231n 视频课程2和3从图像分类要解决的原始问题及面对的困难为起点，引出第一个也是最直观的最近邻分类器（KNN)，讲解KNN模型时，引入了模型的超参(hypeparameter)概念，进一步讨论如何选取超参时水到渠成的引出了数据集的切分和K折交叉验证法；接着在说明了KNN用于image classification中的缺陷后开始学习较为强大线性分类器(linear classi
作者丨陀飞轮@知乎（已授权）导读本文主要解析了CNN based和Transformer based的网络架构设计，其中CNN based涉及ResNet和BoTNet，Transformer based涉及ViT和T2T-ViT。从DETR到ViT等工作都验证了Transformer在计算机视觉领域的潜力，那么很自然的就需要考虑一个新的问题，图像的特征提取，究竟是CNN好还是Transforme
转载
2024-05-22 21:50:03
31阅读
cnn每一层会输出多个feature map, 每个Feature Map通过一种卷积滤波器提取输入的一种特征，每个feature map由多个神经元组成，假如某个feature map的shape是m*n, 则该feature map有m*n个神经元。对于卷积层会有kernel, 记录上一层的feature map与当前层的卷积核的权重,因此kernel的shape为(上一层feature ma
转载
2023-10-08 08:19:18
82阅读
一、training网络简介流程和inference大部分一致，在下图中我们将之前inference就介绍过的分类、回归和掩码生成流程压缩到一个块中，以便其他部分更为清晰。而两者主要不同之处为：网络输入：输入tensor增加到了7个之多（图上画出的6个以及image_meta）,大部分是计算Loss的标签前置损失函数：添加了5个损失函数，2个用于RPN计算，2个用于最终分类回归instance，1
转载
2024-08-08 21:59:09
126阅读
目录0. 摘要1. 基础知识1.1 信息量1.2 熵1.3 相对熵1.4 交叉熵1.5 JS散度1.6 其它相关概念2. WGAN理论分析2.1 WGAN的改变2.2 原始GAN中存在的问题2.2.3 第一种生成器损失函数2.2.4 第二种生成器损失函数2.3 GAN到WGAN的一个过渡方案2.4 Wasserstein距离2.5 从Wasserstein距离到WGAN2.6
转载
2024-04-15 23:32:19
322阅读
常见损失函数总结-图像分类篇【上】 一、前言 在深度学习中，损失函数扮演着至关重要的角色。通过最小化损失函数，使模型达到收敛状态，减少模型预测值的误差。因此，不同的损失函数，对模型的影响是十分重大的。 接下来，重点总结一下在实习工作实践中经常用到的损失函数：
图像分类：softmax，weighted softmax loss，focal loss，soft softmax lo
转载
2023-12-18 23:00:06
105阅读
CNN中卷积和池化操作后的特征图大小计算方法一、卷积操作二、池化操作三、实战3.1.卷积计算例13.2.卷积计算例23.3.池化操作例1 特别的： 当计算尺寸不被整除时，卷积向下取整，池化向上取整。（只在GoogLeNet中遇到过。） 一般的： 卷积池化均向下取整 一、卷积操作假设： 设输入图像尺寸为WxW，卷积核尺寸为FxF，步幅为S，填充为P,经过该卷积层后输出的图像尺寸为NxN,计
转载
2023-11-26 14:04:09
1207阅读
# Python绘制损失函数图
## 介绍
在机器学习和深度学习中，损失函数是评估模型输出与实际标签之间的差异的一种方式。通过绘制损失函数图，我们可以直观地了解模型训练过程中损失的变化情况，进而优化模型的表现。本文将教会你如何使用Python绘制损失函数图。
## 流程
下面是绘制损失函数图的整个流程：
| 步骤 | 描述 |
| --- | --- |
| 1 | 导入必要的库 |
| 2
原创
2023-08-02 12:29:45
1424阅读
