之前学习了线性回归，逻辑回归和梯度下降法，今天学习的这个技术能够帮助我们训练的模型对未知的数据进行更好的预测 - 正则化技术！快来一起学习学习，学习使我快乐 (^▽^)！一、正则化是什么？正则化（Regulariation）这 3 个字听起来挺高大上的，其实就是一种解决机器学习过拟合问题的技术，使用这项技术可以让我们在训练集上训练的模型对未知的数据也能很好地拟合。机器学习模型对未知数据的拟合能力又
转载
2023-11-19 13:15:35
254阅读
【NLP学习】正则化1 正则化2 L2正则项(岭回归)什么情况下用L2正则项什么情况下不用L2正则项3 L1正则项4 ElasticNet回归：（L1、L2正则项）什么情况下用ElasticNet回归 1 正则化欠拟合、过拟合怎么解决？ 解决方式：正则化2 L2正则项(岭回归)以线性回归来说，Loss function 如下： L2正则化相当于： J0表示上面的loss function,正
转载
2024-06-10 15:04:47
98阅读
## 流形正则化在机器学习中的应用
在机器学习领域，流形正则化是一种用于处理高维数据的方法，它可以帮助我们更好地理解数据的结构并提高模型的泛化能力。流形正则化的基本思想是利用数据的局部结构来学习全局结构，从而避免过拟合和提高模型性能。
### 什么是流形正则化？
流形正则化是一种基于流形学习理论的降维方法，其核心思想是将高维数据映射到低维流形空间中，保留数据的局部结构信息。在高维空间中，数据
原创
2024-05-16 07:25:33
149阅读
一：L1 L2 正则化介绍监督机器学习问题无非就是“minimizeyour error while regularizing your parameters”，也就是在规则化参数的同时最小化误差。最小化误差是为了让我们的模型拟合我们的训练数据，而规则化参数是防止我们的模型过分拟合我们的训练数据。多么简约的哲学啊！因为参数太多，会导致我们的模型复杂度上升，容易过拟合，也就是我们的训练误差会很小。但
转载
2023-08-24 20:53:15
533阅读
转载
2023-12-20 22:41:08
50阅读
范数正则化理论及具体案例操作1、正则化（1）什么是正则化（2）为什么要进行正则化（3）正则化原理2、范数（1）L0 范数（2）L1 范数（3）L2范数（4）L1 和 L2 的差别参考文献 1、正则化（1）什么是正则化正则化（ Regularization ）就是对最小化经验误差函数上加正则项约束，这样的约束可以解释为先验知识(有时候正则化参数等价于对参数引入先验分布)。约束有引导作用，在优化误差
转载
2024-01-08 11:42:01
259阅读
Python正则表达式是一种强大的文本匹配工具，它可以帮助我们在字符串中查找、替换特定的文本模式。在Python中，我们可以使用re模块来实现正则表达式的功能。
### 正则表达式的基本语法
正则表达式是由普通字符和元字符（特殊字符）组成的字符串，它可以用来描述一定规则的字符串模式。在Python中，我们可以使用re模块来进行正则表达式的操作，下面是一些基本的正则表达式语法：
- `.`: 匹
原创
2024-07-12 06:22:35
27阅读
1、re.findall()函数语法：re.findall(pattern,string,flags=0) ——> list(列表)列出字符串中模式的所有匹配项，并作为一个列表返回。如果无匹配，则返回空列表！与re.search()不一样的地方：re.findall返回的是列表，re.search返回文本re.findall匹配多个值，re.search只要匹配到就返回，只匹配一个值>
转载
2023-09-25 12:41:18
92阅读
# 使用 PyTorch 实现正则化：新手指南
在机器学习和深度学习模型的训练过程中，过拟合是一个常见的问题。正则化是解决过拟合问题的一种有效方法。本文将使用 PyTorch，带您一步步实现正则化的代码。
### 整体流程概述
首先，我们可以将整个流程分为几个步骤。以下是一个详细的步骤表：
| 步骤序号 | 步骤描述 | 关键代码 |
tensorflow2.0基础模型选择并构建模型model = tf.keras.Sequential([
tf.keras.layers.Dense(16, activation='relu')
tf.keras.layers.Dense(1, activation='sigmoid')
])配置模型model.compile(optimizer=tf.keras.optimiz
正则表达式描述了一种字符串匹配的模式。1 为什么要使用正则表达式a. 数据验证验证手机号，银行卡号等。b. 替换文本正则查找特定源文本，将其替换为目标文本。c. 提取子串从给定字符串中提取目标子串。2 正则表达式-语法\s 匹配任何单个空白字符，包括tab键和换行符。\S 匹配任何非空白字符。\w 匹配包括[a-zA-Z0-9_]。（大小写英文字母、数字、下划线）\W 匹配任何非\w中的字符。（除
转载
2024-02-02 11:01:47
42阅读
# 正则化在PyTorch中的应用
在机器学习及深度学习领域，正则化方法是防止模型过拟合的重要手段。过拟合发生在模型在训练数据上表现良好，但在未见数据上却表现不佳的情况。正则化通过向损失函数添加额外的约束，促使模型学习到更具泛化能力的特征。
## 什么是正则化
正则化的主要目的是减少模型复杂度，一些常用的正则化方法包括L1正则化、L2正则化和Dropout。下面将讨论这些方法在PyTorch
正则化与稀疏性
转载
2023-06-21 17:34:52
281阅读
原标题：Python正则表达式常用函数详解正则表达式是一个特殊的字符序列，它能帮助你方便的检查一个字符串是否与某种模式匹配。Python 自1.5版本起增加了re 模块，它提供 Perl 风格的正则表达式模式。re 模块使 Python 语言拥有全部的正则表达式功能。compile 函数根据一个模式字符串和可选的标志参数生成一个正则表达式对象。该对象拥有一系列方法用于正则表达式匹配和替换。re 模
转载
2023-09-05 07:41:17
139阅读
正则化是一种回归的形式，它将系数估计（coefficient estimate）朝零的方向进行约束、调整或缩小。也就是说，正则化可以在学习过程中降低模型复杂度和不稳定程度，从而避免过拟合的危险。一、数学基础1. 范数范数是衡量某个向量空间（或矩阵）中的每个向量以长度或大小。范数的一般化定义：对实数p>=1， 范数定义如下： L1范数
当p=1时，是L1范数，其表示某个向量中所有元素绝对值的和
转载
2024-01-08 18:39:58
113阅读
VisualPytorch beta发布了！功能概述：通过可视化拖拽网络层方式搭建模型，可选择不同数据集、损失函数、优化器生成可运行pytorch代码扩展功能：1. 模型搭建支持模块的嵌套；2. 模型市场中能共享及克隆模型；3. 模型推理助你直观的感受神经网络在语义分割、目标探测上的威力；4.添加图像增强、快速入门、参数弹窗等辅助性功能修复缺陷：1.大幅改进UI界面，提升用户体验；2.修改注销不跳
转载
2024-04-18 19:50:14
110阅读
正则表达式就是用查找字符串的，它能查找规则比较复杂的字符串
反斜杠：正则表达式里面用"\"作为转义字符。
转载
2023-06-09 07:58:01
61阅读
线性回归1.一般形式w叫做x的系数，b叫做偏置项。2 如何计算2.1 Loss Function--MSE（均方误差）利用梯度下降法找到最小值点，也就是最小误差，最后把 w 和 b 给求出来。3 过拟合、欠拟合如何解决使用正则化项，也就是给loss function加上一个参数项，正则化项有L1正则化、L2正则化、ElasticNet详细了解，可参考视频什么是 L1 L2 正规化3.1 L1正则（
转载
2023-11-19 13:49:31
150阅读
python百日百行代码挑战-day13，pytorch实现深度学习的正则化+基本的线性回归实现过程参考基本概念正则化的目的实现原理分类公式比较失败的一个代码实例首先导入相关包创建数据构建一个特别简单的网络定义模型对正常的线性回归的训练及其结果对加了正则化的训练效果如下 参考10分钟彻底搞懂L2正则化基本概念这两天稍微补了一下正则化的知识，虽然还是有点一知半解，不过暂时先按照自己的理解记录一下吧
转载
2023-10-23 11:38:15
101阅读
机器学习中几乎都可以看到损失函数后面会添加一个额外项，常用的额外项一般有两种，一般英文称作ℓ1ℓ1-norm和ℓ2ℓ2-norm，中文称作L1正则化和L2正则化，或者L1范数和L2范数。L1正则化和L2正则化可以看做是损失函数的惩罚项。所谓『惩罚』是指对损失函数中的某些参数做一些限制。对于线性回归模型，使用L1正则化的模型建叫做Lasso回归，使用L2正则化的模型叫做Ridge回归（岭回归）。下图
转载
2024-04-15 20:07:59
152阅读
