目标检测任务中，Bounding Box的评估指标是IoU，IoU范围在之间，具有尺度不变性，而且可以衡量各种形状的匹配程度。我们自然会考虑能否将IoU设计为一个损失函数。IoU loss 最简单的，直接将1-IoU定义为损失，我自己在简单的目标检测项目中尝试过，基本没有办法学习，主要原因是：当预测框和目标框不相交时，IoU始终为0，损失函数不可导，无法优化。 另外这种损失定义方式无法区分IoU的
转载
2024-09-03 16:49:36
80阅读
在数据科学领域python逐渐火热起来，超越了原有R的地位，这里丰富的第三方包的贡献功不可没，数值计算中Numpy和Pandas绝对是必备的神器，最近使用到Pandas来做数据的操作，今天正好有时间就简单地总结记录一点自己学习使用Pandas的体会，主要是对几个主要的数据框索引函数进行讲解和使用，相关的解释都已经在代码里面了，就不再多解释了，配合着我给出来的例子相信还是
转载
2024-04-13 15:40:06
26阅读
一、training网络简介流程和inference大部分一致，在下图中我们将之前inference就介绍过的分类、回归和掩码生成流程压缩到一个块中，以便其他部分更为清晰。而两者主要不同之处为：网络输入：输入tensor增加到了7个之多（图上画出的6个以及image_meta）,大部分是计算Loss的标签前置损失函数：添加了5个损失函数，2个用于RPN计算，2个用于最终分类回归instance，1
转载
2024-08-08 21:59:09
126阅读
CS231N斯坦福计算机视觉公开课 02 - 损失函数和优化一、SVM铰链损失函数二、正则化1.引入原因三、Softmax交叉熵损失函数四、优化过程1.梯度下降算法 一、SVM铰链损失函数分类错误的分数减去分类正确的分数再加1，比较这个数和0的大小关系，取最大值猫猫的SVM loss为：max(0 , 5.1 - 3.2 + 1) + max(0,- 1.7 - 3.2 + 1) = 2.9+0
转载
2023-11-29 06:55:13
86阅读
一、分类问题损失函数——交叉熵（crossentropy）交叉熵刻画了两个概率分布之间的距离，是分类问题中使用广泛的损失函数。给定两个概率分布p和q，交叉熵刻画的是两个概率分布之间的距离： 我们可以通过Softmax回归将神经网络前向传播得到的结果变成交叉熵要求的概率分布得分。在TensorFlow中，Softmax回归的参数被去掉了，只是一个额外的处理层，将神经网络的输出变成一个概率分
转载
2023-10-18 17:44:53
408阅读
参考：https://zhuanlan.zhihu.com/p/35709485交叉熵损失函数经常用于分类问题中，特别是在神经网络做分类问题时，也经常使用交叉熵作为损失函数，此外，由于交叉熵涉及到计算每个类别的概率，所以交叉熵几乎每次都和sigmoid(或softmax)函数一起出现。交叉熵损失函数优点在用梯度下降法做参数更新的时候，模型学习的速度取决于两个值：一、学习率；
转载
2023-12-21 22:46:31
154阅读
# 如何在Python中实现“IC值”
在数据分析与统计中，IC值（信息系数）是一种用于评估预测模型表现的重要指标。它能够衡量一个变量与结果变量之间的相关性，通常被广泛用于金融风险管理和量化交易策略的评价。本文将详细介绍如何在Python中计算IC值，包括整个流程、所需代码以及流程图和序列图的可视化。
## 流程概述
首先，我们将整个过程分解为几个步骤，下面的表格展示了每个步骤所需完成的主要
机器学习中的各种损失函数SVM multiclass loss（Hinge loss） 这是一个合页函数，也叫Hinge function，loss 函数反映的是我们对于当前分类结果的不满意程度。在这里，多分类的SVM，我们的损失函数的含义是这样的：对于当前的一组分数，对应于不同的类别，我们希望属于真实类别的那个分数比其他的类别的分数要高，并且最好要高出一个margin，这样才是安全的。反映
转载
2024-08-19 22:09:24
115阅读
在统计学中，损失函数是一种衡量损失和错误（这种损失与“错误地”估计有关，如费用或者设备的损失）程度的函数。假设某样本的实际输出为a，而预计的输出为y，则y与a之间存在偏差，深度学习的目的即是通过不断地训练迭代，使得a越来越接近y，即 a - y →0，而训练的本质就是寻找损失函数最小值的过程。 常见的损失函数为两种，一种是均方差函数，另一种是交叉熵函数。对于深度学习而言，交叉熵函数
转载
2024-01-19 15:55:19
126阅读
# 学习Python中的ic函数：从零开始的指南
在Python中，ic函数是一个非常有用的调试工具，它来自于第三方库`icecream`。本文将教授如何安装和使用ic函数，以便你能够轻松地调试和获取代码中的变量信息。作为一个刚入行的小白，下面的步骤将帮助你理解如何实现“Python ic函数”。
## 流程概述
为了实现ic函数使用，整个流程可以分为五个主要步骤，如下表所示：
| 步骤
习题 2-1 分析为什么平方损失函数不适用于分类问题 , 交叉熵损失函数不适用于回归问题.平方损失函数: 平方损失函数较为容易理解，它直接测量机器学习模型的输出与实际结果之间的距离，为学习模型的输出，为实际结果。交叉熵损失函数: 交叉熵是用来评估当前训练得到的概率分布与真实分布的差异情况，减少
转载
2024-10-08 14:09:54
47阅读
前言：在参加Kaggle的比赛中，有时遇到的分割任务是那种背景所占比例很大，但是物体所占比例很小的那种严重不平衡的数据集，这时需要谨慎的挑选loss函数。Loss：1.Log loss log loss其实就是TensorFlow中的 tf.losses.sigmoid_cross_entropy 或者Keras的 keras.losses.bi
转载
2024-03-12 10:46:49
337阅读
目录0. 摘要1. 基础知识1.1 信息量1.2 熵1.3 相对熵1.4 交叉熵1.5 JS散度1.6 其它相关概念2. WGAN理论分析2.1 WGAN的改变2.2 原始GAN中存在的问题2.2.3 第一种生成器损失函数2.2.4 第二种生成器损失函数2.3 GAN到WGAN的一个过渡方案2.4 Wasserstein距离2.5 从Wasserstein距离到WGAN2.6
转载
2024-04-15 23:32:19
332阅读
目录0、损失函数简介0.1 对数损失函数0.2 平方损失函数0.3 指数损失函数？？含义0.4 合页损失函数0.5 其他损失函数1、KNN损失函数2、朴素贝叶斯3、决策树4、逻辑回归5、支持向量机6、Adaboost提升算法7、EM算法8、隐式马尔科夫模型9、条件随机场12、线性回归10、XGBoost算法11、LightGBM算法三0、损失函数简介$$ MSE = \frac{1}{N} \su
转载
2023-12-13 19:47:47
54阅读
上一篇文章《语音降噪模型归纳汇总》，很意外地收到了点赞收藏和关注，如此的反馈给了我极大的鼓舞，这里就再梳理了一下loss函数相关的知识，以求方便能作为一份工具性质的文章展现出来。能力一般，水平有限，欢迎大家指正。目录前言什么是损失（Loss）？ 预测值（估计值）与实际值（预期值、参考值、ground truth）之间会存在差异, “损失”意味着模型因未能产生预期结果而受到的惩罚。损失函数的作用？
转载
2023-10-07 19:19:32
78阅读
接触多因子策略，总会看到IC值、IR值，作为某种度量指标。IC值的定义IC是Information Coefficient的缩写，称为信息系数。IC代表的是预测值和实现值之间的相关性，通常用于评价预测能力（即选股能力）。 IC的计算方式有两种：normal IC、rank IC因为normal IC有一个前提条件，就是数据要服从正态分布，现实往往不理想，所以实际中更多人采用rank IC（秩相关系
转载
2024-01-23 18:51:48
282阅读
一、因子那么多，怎么用才有效？（剔除多重共线性） 1、因子分类：将因子按照风格或经济学含义不同分为收入因子、规模因子、技术因子、估值因子、统计因子等大类； 计算所有因子的相关系数在高度相关的因子中挑选代表因子留下，保证剩余因子相关性不高，避免多重共线性； 采用主成分分析法，计算能够代表各大类
转载
2024-01-29 01:51:43
111阅读
1、原理 2、参数 3、score_card
1、原理https://zhuanlan.zhihu.com/p/1013341832、重要参数2.1 正则化参数penalty、c penalty：可以输入"l1"或"l2"来指定使用哪一种正则化方式，不填写默认"l2"。L1正则化会将参数压缩为0，L2正则化只会让参数尽量小，不会取到0。C: 正则化强度的倒数。大于0的浮点数
转载
2023-11-07 09:27:59
129阅读
切片
取一个list或tuple的部分元素是非常常见的操作。比如，一个list
1
L=[0,1,2,3,4,5,6,7,8,9]
取前3个元素，应该怎么做
笨方法，一个个列出来
>>> [L[0],L[1],L[2]]
[0, 1, 2]
假如需要列出N个但是N很大
循环方法
>>> r=[]
&
转载
2024-08-29 18:06:00
17阅读
常见的损失函数1 分类任务1.1 多分类任务1.2 二分类任务2 回归任务2.1 MAE损失2.2 MSE损失2.3 smooth L1 损失 在深度学习中, 损失函数是用来衡量模型参数的质量的函数, 衡量的方式是比较网络输出和真实输出的差异，损失函数在不同的文献中名称是不一样的，主要有以下几种命名方式：损失函数 （loss function）代价函数（cost function）目标函数（o
转载
2023-12-25 21:49:11
79阅读
