欧式距离:
l2范数:
l2正则化:
l2-loss(也叫平方损失函数):
总结:l2范数和欧式距离很像,都是开根号。l2正则化和l2-loss都是直接开平方。上面这篇mimic的paper,就是用的l2-loss,可以看到他写的公式就是在l2范数上开平方。也可以这么理解,对于loss,需要求梯度,如果有根号后,梯度的计算就变得复杂了。
欧式距离:
l2范数:
l2正则化:
l2-loss(也叫平方损失函数):
总结:l2范数和欧式距离很像,都是开根号。l2正则化和l2-loss都是直接开平方。上面这篇mimic的paper,就是用的l2-loss,可以看到他写的公式就是在l2范数上开平方。也可以这么理解,对于loss,需要求梯度,如果有根号后,梯度的计算就变得复杂了。
举报文章
请选择举报类型
补充说明
0/200
上传截图
格式支持JPEG/PNG/JPG,图片不超过1.9M