损失降低方法损失降低方法迭代方法梯度下降方法学习速率优化随机速率随机梯度下降方法 损失降低方法Reducing loss 主要有几种常用的方法：迭代法梯度下降法学习速率优化随机速率随机梯度下降方法迭代方法迭代方法就是将模型预测值与实际值之间的误差值反馈给模型，让模型不断改进，误差值会越来越小，即模型预测的会越来越精确。就是一个不断尝试的过程梯度下降方法一种快速找到损失函数收敛点的方法。回归问题所
转载
2024-04-22 10:43:22
52阅读
损失函数（loss function）用来度量模型输出值与目标值（target）间的差值。# Lo
原创
2022-07-08 13:02:53
402阅读
前言Tensorflow详细入门前文我们介绍了关于 Tensorflow 的基本操作，知道了 Tensorflow 主要应用于机器学习和深度神经网络方面的研究，接下来我们就用 Tensorflow 来实现机器学习中的线性回归和逻辑回归，进一步了解 Tensorflow 的使用。大体可包括如下几步：数据的获取、处理、划分模型的图构建损失函数的构建选择优化方式和优化目标变量初始化运行博主环境：Wind
目录：一、TensorFlow的基本操作二、tf函数三、TensorFlow的算术操作四、张量操作Tensor Transformations4.1 数据类型转换Casting4.2 形状操作Shapes and Shaping4.3 切片与合并（Slicing and Joining）五、矩阵相关运算六、复数操作七、归约计算(Reduction)八、分割(Segmentation)九、序列比较与
转载
2024-03-05 15:04:59
28阅读
背景 对比学习损失函数有多种，其中比较常用的一种是InfoNCE loss。最近学习实现了SGL推荐系统算法，对InfoNCE Loss做一个总结。 InfoNCE Loss损失函数是基于对比度的一个损失函数，是由NCE Loss损失函数演变而来。那为
转载
2024-05-02 16:37:36
185阅读
在分类的时候，一般采用交叉熵损失函数，然而今天用tensorflow做分类的时候，发现采用tensorflow的自用函数，和自己写的，计算出来的结果不一样。而且采用自己实现时，我出现了loss为nan的情况# tensorflow自带loss = tf.reduce_mean( tf.nn.softmax_cross_entropy_with_logits(labels=y, logit...
原创
2021-09-07 11:37:37
1109阅读
深度学习基础：性能评估指标超参数介绍损失函数前言本文主要总结一下常见目标检测的损失函数以及一些基础的函数，主要损失函数为mask-rcnn涉及到的损失函数包括：MSE均方误差损失函数、Cross Entropy交叉熵损失函数目标检测中常用的Smooth L1损失函数focal loss，log lossdice loss ,iou loss损失函数：共分为两类，分类问题的损失，和回归问题的损失。分
转载
2023-12-10 16:11:00
208阅读
文章目录损失函数（loss）TensorFlow损
原创
2019-02-19 09:23:41
155阅读
建立隐藏层及损失函数引用翻译：《动手学深度学习》通过多类逻辑回归（也称为softmax回归）,将服装图像分为10个可能的类别。为了达到这个目的，我们必须学会如何处理数据,将我们的输出转化为一个有效的概率分布（通过 “softmax”）。如何应用一个适当的损失函数,以及如何对我们的参数进行优化。现在，我们已经涵盖了这些初步的内容。我们就可以把注意力集中在使用深度神经网络设计强大的模型这一更令人兴奋的
转载
2024-05-31 06:37:51
51阅读
Logistic Regression（简称LR）作为一个经典的机器学习分类算法，由于其出众的分类效果和简单的模型，在学术界和工业界都占有重要的地位。此外，Logistic Regression构造目标函数的思路也很值得学习和借鉴。一、二分类问题：Logistic函数： Logistic Regression的核心是Logistic函数，损失函数的构造也正是
前言在监督式机器学习中，无论是回归问题还是分类问题，都少不了使用损失函数（Loss Function）。**损失函数（Loss Function）**是用来估量模型的预测值 f(x) 与真实值 y 的不一致程度。若损失函数很小，表明机器学习模型与数据真实分布很接近，则模型性能良好；若损失函数很大，表明机器学习模型与数据真实分布差别较大，则模型性能不佳。我们训练模型的主要任务就是使用优化
转载
2024-04-26 14:30:21
157阅读
几种常见损失函数
转载
2023-05-31 07:47:48
175阅读
一、什么是损失函数损失函数用来评估模型预测值和真实值之间的差异。模型的损失越小，模型的鲁棒性越好。二、模型与常用损失函数损失函数模型感知损失Perceptron LossPLAHinge损失Hinge LossSVM对数损失Log Loss逻辑回归平方损失Square Loss回归模型绝对值损失Absolute Loss回归模型指数损失Exponential LossAdaboost三、常用的损失
转载
2024-08-20 15:43:31
212阅读
参考博客 https://blog.csdn.net/WinterShiver/article/details/103021569 https://zhuanlan.zhihu.com/p/58883095 https://blog.csdn.net/jclian91/article/details ...
转载
2021-07-27 13:36:00
789阅读
2评论
1 前言2 收集数据3 探索数据4 选择模型5 准备数据6 模型-构建训练评估机器学习主要包括模型构建、模型训练、模型评估，在选择模型章节中已经对如何根据S/W的比率进行模型的选择，其包括n-gram模型或者序列模型，本章节内容主要描述如何运行分类算法进行模型训练，这也是机器学习的核心内容，主要是使用TensorFlow的tf.keras
转载
2024-03-22 14:08:04
81阅读
import tensorflow as tfa = tf.constant([[1, 2, 3], [4, 5, 6]])# 类型转换x = tf.cast(a, tf.int64)print(x)# 最小值y1 = tf.reduce_min(a, axis=0)print(y1)y2 = tf.reduce_min(a, axis=1)print(y2)# 最
原创
2022-05-08 15:27:37
157阅读
文章目录常用函数常用函数tf.gather(params,indices,axis=0) 从params的axis维根据indices的
原创
2022-12-03 00:00:37
67阅读
文章目录1、自动求导 *gradient*2、Tensor2.1 数据类型2.2 *tensor* 属性2.3 类型转换3、*Tensor* 创建4、索引和切片4.1 索引选择相关函数4.2 维度变换4.3 维度拓展4.4 维度压缩5、合并与分割5.1 合并5.2 分割6、数据统计6.1 范数6.2 最值|均值6.3 比较是否相等7、张量排序8、数据的填充与复制9、张量限幅 本人也是小菜，记录
转载
2024-04-01 02:09:45
44阅读
深度学习：两个重要特性：多层和非线性线性模型：任意线性模型的组合都是线性模型，只通过线性变换任意层的全连接神经网络与单层神经网络没有区别。激活函数：能够实现去线性化（神经元的输出通过一个非线性函数）。多层神经网络：能够解决异或问题，深度学习有组合特征提取的功能。使用激活函数和偏置项的前向传播算法import tensorflow as tf
a = tf.nn.relu(tf.matmul(x,w
转载
2024-07-03 18:13:34
32阅读
一般来说，监督学习的目标函数由损失函数和正则化项组成。（Objective = Loss + Regularization） 对于keras模型，目标函数中的正则化项一般在各层中指定，例如使用Dense的 kernel_regularizer 和 bias_regularizer等参数指定权重使用l
转载
2020-04-13 10:44:00
346阅读
2评论
