机器学习算法中，不论是感知机还是支持向量机，在面对非线性问题时，往往都会用到一个名为“核函数”的技巧。 非线性分类的问题 在某些情况下，无法用直线(线性模型)将正负实例正确分开 如果能用$R^n$中的一个超曲面将正负例正确分开,则称这个问题为非线性可分问题 核函数的作用是通过非线性变换(映射)将原空 ...
转载
2021-10-31 13:58:00
1155阅读
2评论
-=
原创
2022-07-15 21:31:21
282阅读
Kernel Functions
Below is a list of some kernel functions available from the existing literature. As was the case with previous articles, every LaTeX notation for the formulas below are readily a
转载
2018-08-07 12:48:43
1354阅读
1 核函数K（kernel function）定义
核函数K（kernel function）就是指K(x, y) = <f(x), f(y)>，其中x和y是n维的输入值，f(·) 是从n维到m维的映射（通常，m>>n）。<x, y>是x和y的内积（inner product）(也称点积（dot product）)。
举个小小栗子。令 x = (x1, x2
转载
2018-08-07 12:51:33
710阅读
在接触反演、算法等方面的知识后，经常听到“核”这个字，它不像对原始变量的线性变换，也不像类似于机器学习中激活函数那样的非线性变换，对原始数据进行变换，就可以将复杂的问题简单化。接下来，就让我们了解了解“核”这个东西。注，kernel function 与kernel function指的是同一个东西，可以这样理解：核方法只是一种处理问题的技巧，低维空间线性不可分可以在高维空间线性可分，但是高维空间
转载
2023-09-18 14:04:50
94阅读
核函数(Kernel) 的 SVM, 解决线性不可分问题.
原创
2022-08-22 12:24:00
195阅读
前言上文中简单总结了对于线性可分数据的SVM的算法原理，本文对于非线性可分以及有噪声存在的时候我们需要对基本SVM算法的改进进行下总结其中包括:核函数在SVM算法中的使用引入松弛变量和惩罚函数的软间隔分类器SVM对偶问题这里稍微回顾下SVM最终的对偶优化问题，因为后面的改进都是在对偶问题的形式上衍生的。标准形式subject to对偶形式subject to , 其中 和 的关系: SVM预测S
转载
2024-04-23 14:18:39
22阅读
Kernel FunctionsBelow is a list of some kernel functions available from the existing literature. As was the case with previous articles, every LaTeX notation for the formulas below are readi
转载
精选
2014-08-30 14:35:30
4440阅读
核函数是我们处理数据时使用的一种方式。对于给的一些特征数据我们通过核函数的方式来对其进行处理。我们经常在SVM中提到核函数，就是因为通过核函数来将原本的数据进行各种方式的组合计算，从而从低维数据到高维数据。比如原来数据下样本点1是x向量，样本点2是y向量，我们把它变成e的x+y次方，就到高维中去了。 把数据映射到高维在我们直观上理解起来是很难的，其实也并不用深刻理解，因为
转载
2024-05-10 11:32:58
228阅读
已知有一组向量，可用线性函数去探索其是否具有线性关系，若数据之间是非线性呢？非线性数据是指只有利用非线性模型才能更好的预测。但非线性问题往往不好求解，所以希望用解线性分类问题的方法解决这个问题。所采取的方法是进行一个非线性变换，将非线性问题变换为线性问题，通过解变换后的线性问题的方法求解原来的非线性问题。原理是将数据映射到高维数据，在高维空间线性可分。如下图，从低维转换到高维，是转换函数。...
原创
2022-01-11 16:44:07
4106阅读
对于线性不可分的数据集，可以利用核函数（kernel）将数据转换成易于分类器理解的形式。 如下图，如果在x轴和y轴构成的坐标系中插入直线进行分类的话， 不能得到理想的结果，或许我们可以对圆中的数据进行某种形式的转换，从而得到某些新的变量来表示数据。在这种表示情况下，我们就更容易得到大于0或者小于0的
转载
2016-11-27 19:52:00
309阅读
2评论
文章目录1 高斯核函数定义2 一维情况3 二维情况3 高斯核将数据映射到高维甚至无穷维的原理 线性支持向量机 (Linear-SVM) 被用于线性可分的数据集的二分类问题，当数据集不是线性可分的时候，需要利用到核函数将数据集映射到高维空间。这样数据在高维空间中就线性可分。 1 高斯核函数定义高斯核函数（Gaussian kernel），也称径向基 (RBF) 函数，是常用的一种核函数。它可以将
转载
2023-10-15 09:40:20
233阅读
# 核回归(Kernel Regression)的python实现
## 引言
核回归（Kernel Regression）是一种非参数的回归方法，它通过使用核函数（kernel function）来估计输入变量与输出变量之间的关系。与传统的线性回归方法不同，核回归可以处理非线性的关系，并且不需要事先对数据进行任何假设。在本文中，我们将介绍核回归的原理和python实现。
## 核回归的原理
原创
2023-09-07 19:49:15
2807阅读
转载
2021-08-30 13:32:23
2472阅读
核方法 核方法 是一类把低维空间的非线性可分问题，转化为高维空间的线性可分问题的方法。核方法不仅仅用于SVM，还可以用于其他数据为非线性可分的算法。核方法的理论基础是Cover's theorem，指的是对于非线性可分的训练集，可以大概率通过将其非线性映射到一个高维空间来转化成线性可分的训练集。 S
转载
2020-05-31 13:41:00
1459阅读
2评论
问题的引入 对于线性可分或者线性近似可分的数据集， 线性支持向量机可以很好的划分，如图左。但是，对于图右的数据集呢？很显然， 这个数据集是没有办法用直线分开的。 我们的想法是 在低维空间中不能线性分割的点集，通过转化为高维空间中的点集时，很有可能变为线性可分的 。 插个题外话：看过《三体》的小伙伴们
原创
2021-08-06 09:39:26
2846阅读
1、限制程序功能函数EnableMenuItem 允许、禁止或变灰指定的菜单条目EnableWindow 允许或禁止鼠标和键盘控制指定窗口和条目（禁止时菜单变灰）2、对话框函数CreateDialog 从资源模板建立一非模态对话窗CreateDialogParam 从资源模板建立一非模态对话窗CreateDialogIndirect 从内存模板建立一非模态对话窗CreateD
转载
2024-07-31 13:41:44
223阅读
核函数（Kernels）考虑我们最初在“线性回归”中提出的问题，特征是房子的面积x，这里的x是实数，结果y是房子的价格。假设我们从样本点的分布中看到x和y符合3次曲线，那么我们希望使用x的三次多项式来逼近这些样本点。那么首先需要将特征x扩展到三维，然后寻找特征和结果之间的模型。我们将这种特征变换称作特征映射（feature mapping）。映射函数称作，在这个例子中我们希望将得到的特
转载
精选
2014-10-19 16:28:01
428阅读
写得非常棒！ 有一些数据，想“看看”它长什么样，我们一般会画直方图（Histogram）。现在你也可以用核密度估计。什么是“核”如果不了解背景，看到“核密度估计”这个概念基本上就是一脸懵逼。我们先说说这个核 (kernel) 是什么。首先，“核”在不同的语境下的含义是不同的，例如在模式识别里，它的含义就和这里不同。在“非参数估计”的语境下，“核”是一个函数，用来提供权重。例如高斯函数 (
转载
2023-10-23 13:16:30
1144阅读
特征空间的隐式映射：核函数 咱们首先给出核函数的来头：在上文中，我们已经了解到了SVM处理线性可分的情况，而对于非线性该表示中可调参数的个数
转载
2023-07-11 17:36:08
190阅读
