损失函数（loss function）用来度量模型输出值与目标值（target）间的差值。# Lo
原创
2022-07-08 13:02:53
402阅读
前言Tensorflow详细入门前文我们介绍了关于 Tensorflow 的基本操作，知道了 Tensorflow 主要应用于机器学习和深度神经网络方面的研究，接下来我们就用 Tensorflow 来实现机器学习中的线性回归和逻辑回归，进一步了解 Tensorflow 的使用。大体可包括如下几步：数据的获取、处理、划分模型的图构建损失函数的构建选择优化方式和优化目标变量初始化运行博主环境：Wind
目录：一、TensorFlow的基本操作二、tf函数三、TensorFlow的算术操作四、张量操作Tensor Transformations4.1 数据类型转换Casting4.2 形状操作Shapes and Shaping4.3 切片与合并（Slicing and Joining）五、矩阵相关运算六、复数操作七、归约计算(Reduction)八、分割(Segmentation)九、序列比较与
转载
2024-03-05 15:04:59
28阅读
损失降低方法损失降低方法迭代方法梯度下降方法学习速率优化随机速率随机梯度下降方法 损失降低方法Reducing loss 主要有几种常用的方法：迭代法梯度下降法学习速率优化随机速率随机梯度下降方法迭代方法迭代方法就是将模型预测值与实际值之间的误差值反馈给模型，让模型不断改进，误差值会越来越小，即模型预测的会越来越精确。就是一个不断尝试的过程梯度下降方法一种快速找到损失函数收敛点的方法。回归问题所
转载
2024-04-22 10:43:22
52阅读
文章目录损失函数（loss）TensorFlow损
原创
2019-02-19 09:23:41
155阅读
在分类的时候，一般采用交叉熵损失函数，然而今天用tensorflow做分类的时候，发现采用tensorflow的自用函数，和自己写的，计算出来的结果不一样。而且采用自己实现时，我出现了loss为nan的情况# tensorflow自带loss = tf.reduce_mean( tf.nn.softmax_cross_entropy_with_logits(labels=y, logit...
原创
2021-09-07 11:37:37
1109阅读
前言在监督式机器学习中，无论是回归问题还是分类问题，都少不了使用损失函数（Loss Function）。**损失函数（Loss Function）**是用来估量模型的预测值 f(x) 与真实值 y 的不一致程度。若损失函数很小，表明机器学习模型与数据真实分布很接近，则模型性能良好；若损失函数很大，表明机器学习模型与数据真实分布差别较大，则模型性能不佳。我们训练模型的主要任务就是使用优化
转载
2024-04-26 14:30:21
157阅读
Logistic Regression（简称LR）作为一个经典的机器学习分类算法，由于其出众的分类效果和简单的模型，在学术界和工业界都占有重要的地位。此外，Logistic Regression构造目标函数的思路也很值得学习和借鉴。一、二分类问题：Logistic函数： Logistic Regression的核心是Logistic函数，损失函数的构造也正是
1 前言2 收集数据3 探索数据4 选择模型5 准备数据6 模型-构建训练评估机器学习主要包括模型构建、模型训练、模型评估，在选择模型章节中已经对如何根据S/W的比率进行模型的选择，其包括n-gram模型或者序列模型，本章节内容主要描述如何运行分类算法进行模型训练，这也是机器学习的核心内容，主要是使用TensorFlow的tf.keras
转载
2024-03-22 14:08:04
81阅读
一般来说，监督学习的目标函数由损失函数和正则化项组成。（Objective = Loss + Regularization） 对于keras模型，目标函数中的正则化项一般在各层中指定，例如使用Dense的 kernel_regularizer 和 bias_regularizer等参数指定权重使用l
转载
2020-04-13 10:44:00
346阅读
2评论
TensorFlow损失函数：MeanSquaredError()KLDivergence()CosineSimilarity()等等在TensorFlow中已经内置了很多常用的损失函数，可
原创
2023-01-17 01:47:09
293阅读
一、tf.nn.softmax_cross_entropy_with_logits： 在计算loss的时候，最常见的一句话就是tf.nn.softmax_cross_entropy_with_logits，那么它到底是怎么做的呢？首先明确一点，loss是代价值，也就是我们要最小化的值tf.nn.softmax_cross_entropy_with_logits
深度学习：两个重要特性：多层和非线性线性模型：任意线性模型的组合都是线性模型，只通过线性变换任意层的全连接神经网络与单层神经网络没有区别。激活函数：能够实现去线性化（神经元的输出通过一个非线性函数）。多层神经网络：能够解决异或问题，深度学习有组合特征提取的功能。使用激活函数和偏置项的前向传播算法import tensorflow as tf
a = tf.nn.relu(tf.matmul(x,w
转载
2024-07-03 18:13:34
32阅读
最近学习tensorflow，其中tensorboard 作为一款可视化神器，可以说是学习tensorflow时模型训练以及参数可视化的法宝。而在训练过程中，主要用到了tf.summary()的各类方法，能够保存训练过程以及参数分布图并在tensorboard显示。做笔记，方便以后查看。tf.summary()的各类方法：1、tf.summary.scalar 用来显示标量信息 格式为：tf.su
我主要分三篇文章给大家介绍tensorflow的损失函数，本篇为tensorflow自定义损失函数。
（一）tensorflow内置的四个损失函数
（二）其他损失函数
（三）自定义损失函数
自定义损失函数是损失函数章节的结尾，学习自定义损失函数，对于提高分类分割等问题的准确率很有帮助，同时探索新型的损失函数也可以让你文章多多。这里我们介绍构建自定义损失函数的方法，并且介绍可以均衡正负
转载
2019-09-05 09:48:00
667阅读
2评论
一文吃掉tensorflow2.0损失函数和损失函数的自定义
原创
2022-09-23 10:29:02
314阅读
In [22]: y_true = [[0], [1]] ...
转载
2020-08-01 21:47:00
526阅读
2评论
常见的损失函数学习随笔学习目标知道分类任务的损失函数知道回归任务的损失函数在深度学习中, 损失函数是用来衡量模型参数的质量的函数, 衡量的方式是比较网络输出和真实输出的差异，损失函数在不同的文献中名称是不一样的，主要有以下几种命名方式：分类任务在深度学习的分类任务中使用最多的是交叉熵损失函数，所以在这里我们着重介绍这种损失函数。多分类任务在多分类任务通常使用softmax将logits转换为概率的
转载
2024-09-03 12:35:40
97阅读
Tensorflow2.0笔记本博客为Tensorflow2.0学习笔记，感谢北京大学微电子学院曹建老师目录Tensorflow2.0笔记4 损失函数4.1 均方误差损失函数4.2 交叉熵损失函数4.3 自定义损失函数4 损失函数 神经网络模型的效果及优化的目标是通过损失函数来定义的。回归和分类是监督学习中的两个大类。4.1 均方误差损失函数 均方误差（Mean Square Error）是回归问
转载
2024-05-08 14:40:07
49阅读
正如前面所讨论的，在回归中定义了损失函数或目标函数，其目的是找到使损失最小化的系数。本节将介绍如何在 TensorFlow 中定义损失函数，并根据问题选择合适的损失函数。声明一个损失函数需要将系数定义为变量，将数据集定义为占位符。可以有一个常学习率或变化的学习率和正则化常数。在下面的代码中，设 m
转载
2020-06-08 16:58:00
120阅读
2评论
