回归的目的是预测数值型的目标值

神经网络学习机理:分解和整合

回归:求回归系数的过程

最小二乘法:它的主要思想就是选择未知参数,使得理论值与观测值之差的平方和达到最小

欠拟合:模型没有很好地捕捉到数据特征,不能够很好地拟合数据,模型欠拟合将不能取得最好的预测结果。

过拟合:模型把数据学习的太彻底,以至于把噪声数据的特征也学习到了,这样就会导致在后期测试的时候不能够很好地识别数据,即不能正确的分类,模型泛化能力太差

岭回归:岭回归分析是一种用于存在多重共线性(自变量高度相关)数据的技术。在多重共线性情况下,尽管最小二乘法(OLS)对每个变量很公平,但它们的差异很大,使得观测值偏移并远离真实值。岭回归通过给回归估计上增加一个偏差度,来降低标准误差。