线性回归算法解决回归问题思想简单，容易实现是许多强大的非线性模型的基础结果具有很好的可解释性蕴含机器学习中的很多重要思想基本思想：寻找一条直线，最大程度的“拟合”样本特征和样本输出标记之间的关系如横轴房屋面积，纵轴房屋价格由实际值x(i)代入到拟合直线方程中得到的y_hat， 即y的预测值。假设找到最佳拟合的直线方程：y = ax + b, 则对于每一个样本点x(i)，根据直线方程其预测值为：，
转载
2024-02-27 13:28:20
86阅读
文章目录一、线性回归算法简介二、简单线性回归的实现三、向量化运算四、衡量线性回归法的指标，MSE,RMS,MAEMSE均方误差（Mean Squared Error）RSE均方误差（Root Mean Squared Error）平均绝对误差MAE（Mean Absolute Error）五、演示六、评价回归算法R Square七、多元线性回归目标多元线性回归的正规方程解（Normal Equa
转载
2024-02-20 23:12:33
110阅读
调参和线性回归的调参方法讲解1. 什么是调参？调参（Hyperparameter Tuning）是指在模型训练过程中，对那些不是直接从数据中学习得到的参数（即超参数）进行选择和优化的过程。普通参数：模型训练后自动学到的参数（例如，线性回归中的权重 w 和偏置 b）。超参数：需要在训练前设定的参数，例如正则化系数、学习率、迭代次数等。
调参的目的是通过寻找最优的超参数组合，使得模型在验证集或交叉验证
何为Regression上一节我们已经讲到过，Regression的特点就是它的输出是一个具体的数值，不同的数值具有不同的意义Linear ModelLinear Regression的Model的通常的形式为： ｗ和ｘ都可以是向量的形式，他们一一对应，我们训练的目的就是找出最好的ｗ和ｂ，使其在训练数据上对应的ｙ的预测尽可能的准确Loss Function为了计算出最好的ｗ和ｂ，我们引入了loss
转载
2024-03-25 19:36:32
47阅读
山顶的存在并不是让你感到自己的渺小，而是作为一个努力的目标存在的。如果有时间在山路上休息的话，还不如一步一步继续往上攀登，即使很慢也不要紧，一步一步的，像乌龟一样踏实地，虽然不一定能到达顶峰，也有可能在途中就用尽力气，但是你在那里看到的景色肯定要比现在的美丽的多！from 银魂从小事做起，将学习融入生活的每一天，反复的一点一点的积累才是最重要，了解和熟悉数据挖掘，为能从事数据挖掘工作做准备！机器学
转载
2024-07-11 14:37:16
34阅读
本系列内容大部分来自Standford公开课machine learning中Andrew老师的讲解，附加自己的一些理解，编程实现和学习笔记。第一章 Linear regression 1.线性回归线性回归是一种监督学习的方法。线性回归的主要想法是给出一系列数据，假设数据的拟合线性表达式为：
如何求得参数θ成为这个方法唯一的问题，为此我们需要定义损失函数：
，其中m表示样本个数，表示第i组样本，所
转载
2024-05-10 17:07:58
88阅读
基本理论线性回归LinearRegression基本形式： &nb
说到Linear Regression ，许多人的第一反应就是我们初中学过的线性回归方程。其实上，线性回归方程就是当feature为一个时候的特殊情况。和许多机器学习一样，做 Linear Regression 的步骤也是三步：STEP1: CONFIRM A MODEL(function sets)
转载
2024-10-20 16:35:37
408阅读
一、learning rate 简述lr全称learning rate（一下简称lr），是机器学习和深度学习中最为重要的超参数之一，会影响模型训练结果的好坏，有时候甚至会直接导致整个模型无法使用。lr最直接的可观测的影响就是loss值的变化，较大的学习率会更容易收敛也更容易出现陷入局部最优解的情况，而过大的学习率会导致loss无法收敛甚至出现nan的情况；较小的学习率更容易找到全局最优解但是los
转载
2024-03-26 23:39:53
219阅读
调参数是深度学习工作中，必不可少的一步。“得参数者，得天下“那么，调参的方法常见的有哪些？小编为您总结一番~01寻找合适的学习率(learning rate)学习率是一个非常非常重要的超参数在面对不同规模、不同batch-size、不同优化方式、不同数据集时，学习率的最合适的值都是不确定的，所以，我们无法光凭经验来准确地确定学习率的值。策略：在训练中不断寻找最合适当前状态的学习率。下图利用fast
转载
2024-03-18 20:15:06
60阅读
调参
原创
2021-07-12 14:39:54
360阅读
做dl也有一段时间了，积累了一些经验，也在网上看到一些别人的经验。 为了面试，结合知乎上面的问答，我也总结了一下，欢迎大家补充。知乎 深度学习调参有哪些技巧？一. 初始化 有人用normal初始化cnn的参数，最后acc只能到70%多，仅仅改成xavier，acc可以到98%。二.从理解CNN网络以产生直觉去调参数的角度考虑，应该使用可视化 可视化（知乎用户 杨军）1.Visualize L
转载
2024-04-07 08:42:23
81阅读
在
深度学习中，有许多不同的深度网络结构，包括卷积
神经网络(CNN或convnet)、长短期记忆网络(LSTM)和生成对抗网络(GAN)等。
在计算机视觉领域，对卷积神经网络(简称为CNN)的研究和应用都取得了显著的成果N网络最初的诞生收到了动物视觉神经机制的启发，目前已成功用于机器视觉等领域中。
技术博客Towards Data Science最近发布了
转载
2024-08-14 09:16:19
14阅读
"Editor$Edit$txbTitle":"这是绕过登录的标题：北京-宏哥"， 以上所述是小编给大家介绍的python接口自动化参数关联接口详解整合，}r2 = s.post(url2， 'XXX') # 填上面抓包内容c.set('.Cnblogs.AspNetCore.Cookies'，希望带小伙伴进一步巩固胜利的果实，那我们想办法将这个参数提取出来就可以了 二、提取参数 1、我们需要的参
转载
2023-10-14 23:03:04
129阅读
在机器学习中，模型的参数调整是非常重要的一件事，如果能找到合适的参数，那么模型的泛化能力就会得到很大的提升。但现实是，模型有很多参数，而且这些参数的取值范围也都很大。如果用人工手动去调整，既费时又费力。好在，scikit-learn给我们提供了一个自动调参的解决方案——网格搜索。GridSearchCV，它存在的意义就是自动调参，只要把参数输进去，就能给出最优化的结果和参数。但是这个方法适合于小数
转载
2024-08-17 15:50:02
82阅读
文章目录前言一、Ray Tune是什么？二、使用步骤1.安装包2.引入库3.读入数据（与Ray Tune无关）4.构建神经网络模型（与Ray Tune无关）5.模型的训练和测试（与Ray Tune无关）6.构建“Trainable”7.超参搜索总结 前言本文以PyTorch框架构建的卷积网络模型做分类任务为例介绍如何使用Ray Tune进行自动调参，相关代码引自官网文档。一、Ray Tune是什
转载
2023-10-20 22:39:57
595阅读
cnn调参技巧记录，好的参数不光可以加速模型收敛，而且可以有效的避免很多错误。当然在很多简单任务中可能完全随机的模型初始参数，简单的一些建议学习率以及动量都可以得到一个比较满意的结果，比如单一，简单的降质模型下的图像生成，类别简单少量的一些分类任务等，不好的初始化参数是可以应对简单任务的。但是对于复杂任务就很难了，因为初始化参数选择的不好，导致结果十分不可控。因为不好的初始化参数导致结果很不可靠，
转载
2024-04-25 13:03:25
55阅读
一、Jvm参数设置 1、设置内存参数 java -Xms64m #JVM启动时的初始堆
转载
2021-07-12 09:35:00
248阅读
2评论
一、jmap -heap 命令结果分析（1.8和1.7会有区别） jmap -heap pid Attaching to process ID 3764, please wait... Debugger attached successfully. Server compiler detected. ...
转载
2021-07-24 14:11:00
138阅读
2评论
点到直线距离，直线的点向式与一般式互换
原创
2021-08-05 11:01:05
280阅读
