径向基函数内核——机器学习

Radial Basis Kernel是一种核函数，用于机器学习中寻找非线性分类器或回归线。

什么是内核函数？
核函数用于将 n 维输入转换为 m 维输入，其中 m 远高于 n，然后有效地找到更高维的点积。使用核的主要思想是：高维的线性分类器或回归曲线变成低维的非线性分类器或回归曲线。

径向基核的数学定义：

径向基内核

其中x, x'是任意固定维空间中的向量点。
但是如果我们展开上面的指数表达式，它将上升到x和x' 的无限次幂，因为e ^{x 的展开}包含了到x 的无限次幂的无限项，因此它涉及到无限维数上无限次幂的项。
如果我们在这个内核上应用任何算法，如感知器算法或线性回归，实际上我们会将我们的算法应用于我们创建的新无限维数据点。因此，它将给出一个无限维度的超平面，这将在返回到我们的原始维度后给出一个非常强的非线性分类器或回归曲线。

无穷次幂多项式

因此，尽管我们正在应用线性分类器/回归，但它会给出非线性分类器或回归线，这将是无穷次幂的多项式。作为无限次幂的多项式，径向基核是一个非常强大的核，它可以给出拟合任何复杂数据集的曲线。

为什么径向基内核非常强大？
内核的主要动机是在d > 1 的任何 d 维空间中进行计算，以便我们可以为我们的分类/回归线获得二次、三次或任何大次数的多项式方程。由于径向基核使用指数，并且我们知道 e^x 的展开给出了无限幂的多项式方程，因此使用这个核，我们也使我们的回归/分类线无限强大。使用 RBF 内核轻松拟合的一些复杂数据集：


参考：

• 径向基内核
• 内核函数