1 致谢

感谢陈助教的帮助和解答!

2 前言

线性回归是我们在机器学习算法中学习到的第一个回归算法,所以我们一定要学习并且掌握清楚,为后续的学习奠定良好的基础。

3 问题描述

这几天在做一元线性回归的作业,在模拟训练过程的实验时,发现一个问题,赵老师在课堂上面画了这样的一张图,

深度学习 loss的最大值是多少 训练loss大于1_机器学习

深度学习 loss的最大值是多少 训练loss大于1_偏函数_02

4 一元线性回归中loss值变化的理论分析

深度学习 loss的最大值是多少 训练loss大于1_机器学习_03

4.1 loss函数关于单个

的偏函数的形式 —— 二次函数

深度学习 loss的最大值是多少 训练loss大于1_线性回归_04

深度学习 loss的最大值是多少 训练loss大于1_机器学习_05

深度学习 loss的最大值是多少 训练loss大于1_深度学习 loss的最大值是多少_06

4.2 

与抛物线对称轴的距离

深度学习 loss的最大值是多少 训练loss大于1_线性回归_07

从实验结果,我们可以知道,肯定不是的,

深度学习 loss的最大值是多少 训练loss大于1_线性回归_08

深度学习 loss的最大值是多少 训练loss大于1_迭代_09