看了一半左右的stanford的machine learning公开课视频，做了一下练习题，重新搜了一下matlab的语法，看了附带的讲义，终于在Octave下实现了梯度下降法的线性回归 . 线性回归假设特征和目标值满足线性关系。//y=ax+b 例如：房间的面积和房间价格成正比。 其实线性关系的表达能力非常强大，每个特征对结果的影响强弱可以由权重参数体现，而且每个特征变量可以先转换到一
常用函数fscanf(fid, '%c', inf) -> 直接读取整个文件, 因为inf表示无穷strtrimchar(num): 将num转为ASCII字符strtok(content, delimiters)regexprep(content, pattern, replacement): 正则表达式匹配并替换成指定的字符lower: 小写字符cumsum: 求紧邻累加和序列eval:
1. 基本原理Logistic Regression和Linear Regression的原理是相似的，按照我自己的理解，可以简单的描述为这样的过程：（1）找一个合适的预测函数（Andrew Ng的公开课中称为hypothesis），一般表示为h函数，该函数就是我们需要找的分类函数，它用来预测输入数据的判断结果。这个过程时非常关键的，需要对数据有一定的了解或分析，知道或者猜测预测函数的
转载
2024-09-24 22:49:01
30阅读
吴恩达机器学习作业 python 实现：Logistic Regression1.检查加载数据，进行可视化定义函数对数据可视化def plotdata(path):
data1 = np.loadtxt(path, delimiter=',')
pos_index = np.where(data1[:, 2] == 1)
neg_index = np.where(data
转载
2024-08-12 09:34:32
77阅读
Logistic函数与Logistic回归Logistic函数的表示形式如下：它的函数图像如下，由于函数图像很像一个“S”型，所以该函数又叫 sigmoid 函数。 满足的性质：1.对称性，关于(0,0.5)中心对称 2.逻辑斯谛方程即微分方程 最早logistic函数是皮埃尔·弗朗索瓦·韦吕勒在1844或1845年在研究它与人口增长的关系时命名的。广义Logistic曲线可以模仿一些情况人口增长
matlab函数_连通区域1、 matlab函数bwareaopen──删除小面积对象格式：BW2 = bwareaopen(BW,P,conn)作用：删除二值图像BW中面积小于P的对象，默认情况下使用8邻域。算法：(1)Determine the connected components. L = bwlabeln(BW, conn);(2)Compute the area of
转载
2024-05-31 13:21:22
45阅读
线性回归 liner regression模型描述 回归分析 线性回归部分预备知识假设函数（hypothesis）损失函数/代价函数（cost/loss function）等高线图（contour figure）批量梯度下降（Batch Gradient Descent)随机梯度下降（Stochastic Graident Descent)正规方程（Nomal Equation）特征缩放多项式回
转载
2024-03-26 13:42:25
48阅读
为了更好的学习内容，请访问原创版本：Ps：初次访问由于js文件较大，请耐心等候（8s左右）本节课中，我们将学习如何利用Python的来Logistic。这是第一节Python代码内容，接下来我们将从一些基本的Python编程开始讲述。 本文中的代码经过作者改进，修改bug，已经提交到github。地址为：https://github.com/Lite-Java/missshi_deepl
regression：直译似乎是回归，觉得更直接一种说法应该是预测，通过找出拟合历史数据的函数，预测未来数据。半监督学习：有一点标记数据，大部分未标记数据。监督学习：所以数据都已标记。 gradient 是列向量，值为loss function的偏微分regression的一种简单model是 y = wx+b, 跟高中学的线性回归几乎一样。不过这里的w、b、x不是一个数，而是矩阵。复杂一点的模型
转载
2024-05-16 21:06:04
37阅读
Regression1. 什么是Regression（回归）？2. 实现Regression的步骤 step1：Model（建立一个模型）——线性模型 step2： Goodness of function（确定评价函数）——损失函数 step3：Best function ——梯度下降法3. 方法优化（从step1,model入手） 方法1
转载
2024-03-07 20:42:15
195阅读
这个模型不好，因为隐藏因素：物种 优化这个模型 不同物种的对应的error线也是不一样的，那么error会更小，fit的更好当然还和其他的因素有关：不同物种在进化时的情况不同（如红色线），其次有些值略高或略低于直线（产生进化后CP值时有加rand） 此时可以构造更复杂的模型，把想到的因素都考虑进去，
转载
2020-02-11 21:13:00
122阅读
2评论
文章目录简介Why We Prefer SparsitySparsity例子:Housing Price Application确定特征的方法Option1:Exhaustive Search:"all subsets"Option2:Greedy Approaches·Forward Stepwise·Backward StepwiseOption3:via Regularization: A
转载
2024-03-26 09:04:01
55阅读
机器学习总结机器学习总结（1）-- 对于机器学习的理解机器学习总结（2）-- KNN（k-NearestNeighbor） 机器学习总结（3）-- 线性回归（linear regression） 文章目录机器学习总结线性回归（linear regression）定义工作原理算式表达的线性模型最小二乘法求解梯度下降求解优点缺点改进策略岭回归（Ridge Regression）套索回归（Lasso R
转载
2024-05-23 17:08:34
17阅读
本小节内容： 开始的时候，是从三个方面介绍线性回归算法，分别是单变量，多变量，梯度下降。 由于之前这个已经记录过博客，在此就不加以赘述了，可以翻看以前的机器学习栏目中的博客，具体公式推导已经全部写了。 主要来讲一下如何利用线性回归算法去拟合正弦函数 首先我们要随机生成一些正弦函数上的点，然后再生成一些噪声点（不在正弦函数上的点），最后将这些点进行格式化成sklearn试用的点 然后用多阶函数去拟合
转载
2024-05-01 21:36:09
423阅读
目录前言Regression举例Classification举例总结 前言由于之前对于Regression(回归)和Classification(分类)认识并不准确，混淆了很长时间，那么现在就稍微总结一下。Regression回归，类比于数学中的回归直线，它在神经网络中作为输出往往是通过前者的运算而得出一个确定的值/向量。这个值/向量依赖于输入数据的整体分布，最终给出一个或因周期，或因总体趋势，
转载
2024-04-01 10:40:34
29阅读
逻辑回归（Logistic Regression）算法 —— 监督、分类
1、逻辑回归（Logistic Regression）模型Logistic回归模型，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断，经济预测等领域。适用条件：主要面向二分类线性可分问题。2、系统模型（1）超平面对于如图线性可分的问题，需要找到一条直线，能够将两个不同的类
转载
2024-05-07 20:08:34
55阅读
线性回归（Linear Regression）原理小结1. 模型函数2. 损失函数3. 学习算法3.1 梯度下降法3.2 最小二乘法4. 线性回归推广4.1 多项式回归4.2 广义线性回归4.2.1 对数线性模型（log-linear regression）4.2.2 广义线性模型（generalized linear regression）5. 加正则化项的线性回归6. 线性回归模型综合评价完
转载
2024-04-22 23:07:18
79阅读
机器学习笔记——逻辑回归算法（Logistic Regression）正名分类算法回归算法思考分类问题逻辑回归函数逻辑回归函数逻辑回归分类函数的理解决策边界example （1）example （2）如何选择表达函数？逻辑回归函数成本函数（1）恶性肿瘤的分析（2）良性肿瘤的分析优化写法逻辑回归函数的梯度下降优化算法线性回归的梯度下降法和逻辑回归的梯度下降法是一样的吗？小技巧线性回归的监控是否收敛
转载
2024-03-28 11:41:10
70阅读
Logistic Regression（简称LR）作为一个经典的机器学习分类算法，由于其出众的分类效果和简单的模型，在学术界和工业界都占有重要的地位。此外，Logistic Regression构造目标函数的思路也很值得学习和借鉴。一、二分类问题：Logistic函数： Logistic Regression的核心是Logistic函数，损失函数的构造也正是
随着软硬件的飞速发展，计算机技术已经广泛地应用到自动化控制领域，为了实现实时控制，控制程序必须能够精确地完成定时和计时功能。VC提供了很多关于时间操作的函数，下面根据它们精度的不同，分别进行说明。 一般时控函数 VC程序员都会利用Windows的WM—TIMER消息映射来进行简单的时间控制：1.调用函数SetTimer()设置定时间隔，如SetTimer(0,200,NULL)即为设置
转载
2024-04-24 19:30:51
38阅读
