目录

1 多分类损失函数和评价指标(objectives and metrics) 1
1.1 MultiClass- softmax loss 2
1.2 MultiClassOneVsAll 2
1.3 Precision 3
1.4 Recall 3
1.5 F-Measure F1 3
1.6 TotalF1 3
1.6.1 Weighted TotalF1 3
1.6.2 Macro F1 4
1.6.3 Micro F1 4
1.7 MCC 4
1.8 Accuracy 5
1.9 ZeroOneLoss 5
1.10 HingeLoss 5
1.11 HammingLoss 5
1.12 Kappa 6
1.13 WKappa 6
1.14 AUC 6

1 多分类损失函数和评价指标(objectives and metrics)

1.1 MultiClass- softmax loss

多分类问题损失函数python调用代码 多分类任务 损失函数_损失函数

其中w是样本数据的权重。

1.2 MultiClassOneVsAll

在one-vs-all策略中,假设有n个类别,那么就会建立n个二项分类器,每个分类器针对其中一个类别和剩余类别进行分类。进行预测时,利用这n个二项分类器进行分类,得到数据属于当前类的概率,选择其中概率最大的一个类别作为最终的预测结果。

多分类问题损失函数python调用代码 多分类任务 损失函数_分类_02

1.3 Precision

多分类问题损失函数python调用代码 多分类任务 损失函数_人工智能_03

1.4 Recall

多分类问题损失函数python调用代码 多分类任务 损失函数_评价指标_04

1.5 F-Measure F1

多分类问题损失函数python调用代码 多分类任务 损失函数_人工智能_05

1.6 TotalF1

1.6.1 Weighted TotalF1

多分类问题损失函数python调用代码 多分类任务 损失函数_评价指标_06

1.6.2 Macro F1

多分类问题损失函数python调用代码 多分类任务 损失函数_人工智能_07

1.6.3 Micro F1

多分类问题损失函数python调用代码 多分类任务 损失函数_多分类问题损失函数python调用代码_08

1.7 MCC

马休斯相关系数(Matthews Correlation Coefficient )–MCC。它能解决不均衡类别数据的指标衡量问题

混淆矩阵(confusion matrix)衡量的是一个分类器分类的准确程度。

多分类问题损失函数python调用代码 多分类任务 损失函数_多分类问题损失函数python调用代码_09

  • 当FP=FN=0即完全预测正确时 MCC=1
  • 当完全预测错误时MCC=-1,此时将标签逆转即可
  • 当MCC=0时表明模型不比随机预测好

1.8 Accuracy

1.9 ZeroOneLoss

1−Accuracy

1.10 HingeLoss

Hinge Loss是一种目标函数(或者说损失函数)的名称,通常被用于最大间隔算法(maximum-margin),而最大间隔算法又是SVM(支持向量机support vector machines)用到的重要算法。

1.11 HammingLoss

Hamming loss(汉明损失),该指标衡量了预测所得标记与样本实际标记之间的不一致程度,即样本具 有标记y但未被识别出,或不具有标记y却别误判的可能性。它直接统计了被误分类label的个数(不属于这个样本的标签被预测,或者属于这个样本的标签没有被预测)。hloss=0表示所有的每一个data的所有label都被分对了。

多分类问题损失函数python调用代码 多分类任务 损失函数_评价指标_10

1.12 Kappa

Kappa是一种基于混淆矩阵计算的衡量分类精度的指标,通常kappa落在 [0-1] 间,可分为五组来表示不同级别的一致性:0-0.2为极低的一致性(slight)、0.21-0.4为一般的一致性(fair)、0.41-0.6为 中等的一致性(moderate)、0.61-0.8 为高度的一致性(substantial)和0.81-1几乎完全一致(almost perfect)。

1.13 WKappa

1.14 AUC