支持向量机(SVM)中核函数的本质意义

2024-06-16 06:04

本文主要是介绍支持向量机(SVM)中核函数的本质意义,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本质上在做什么?
内积是距离度量,核函数相当于将低维空间的距离映射到高维空间的距离,并非对特征直接映射。
为什么要求核函数是对称且Gram矩阵是半正定?
核函数对应某一特征空间的内积,要求①核函数对称;②Gram矩阵半正定。
证明内积对应的Gram矩阵半正定:
α T K α = [ α 1 , α 2 , ⋯ , α n ] [ κ ( x 1 , x 1 ) κ ( x 1 , x 2 ) ⋯ κ ( x 1 , x n ) κ ( x 2 , x 1 ) κ ( x 2 , x 2 ) ⋯ κ ( x 1 , x n ) ⋮ ⋮ ⋱ ⋮ κ ( x n , x 1 ) κ ( x n , x 2 ) ⋯ κ ( x n , x n ) ] [ α 1 α 2 ⋮ α n ] = ∑ i = 1 n ∑ j = 1 n α i κ ( x i , x j ) α j = ∑ i = 1 n ∑ j = 1 n α i α j ⟨ ϕ ( x i ) , ϕ ( x j ) ⟩ = ⟨ ∑ i = 1 n α i ϕ ( x i ) , ∑ j = 1 n α j ϕ ( x j ) ⟩ = ∥ ∑ i = 1 n α i ϕ ( x i ) ∥ 2 2 ⩾ 0 \begin{aligned} {{ \bm \alpha}^{\rm T} {\bm K} { \bm \alpha}} &=\begin{bmatrix} {\alpha}_1, {\alpha}_2, \cdots, {\alpha}_n \end{bmatrix} \begin{bmatrix} \kappa \left( {\bm x}_1, {\bm x}_1 \right) &\kappa \left( {\bm x}_1, {\bm x}_2 \right) &\cdots &\kappa \left( {\bm x}_1, {\bm x}_n \right) \\ \kappa \left( {\bm x}_2, {\bm x}_1 \right) &\kappa \left( {\bm x}_2, {\bm x}_2 \right) &\cdots &\kappa \left( {\bm x}_1, {\bm x}_n \right) \\ \vdots &\vdots &\ddots &\vdots \\ \kappa \left( {\bm x}_n, {\bm x}_1 \right) &\kappa \left( {\bm x}_n, {\bm x}_2 \right) &\cdots &\kappa \left( {\bm x}_n, {\bm x}_n \right) \\ \end{bmatrix} \begin{bmatrix} {\alpha}_1 \\ {\alpha}_2 \\ \vdots \\ {\alpha}_n \\ \end{bmatrix} \\ &= \sum\limits_{i=1}^{n} \sum\limits_{j=1}^{n} {\alpha}_i \kappa \left( {\bm x}_i, {\bm x}_j \right) {\alpha}_j \\ &= \sum\limits_{i=1}^{n} \sum\limits_{j=1}^{n} {\alpha}_i {\alpha}_j \langle \phi \left( {\bm x}_i \right), \phi \left( {\bm x}_j \right) \rangle\\ &= \langle \sum\limits_{i=1}^{n} {\alpha}_i \phi \left( {\bm x}_i \right), \sum\limits_{j=1}^{n} {\alpha}_j \phi \left( {\bm x}_j \right) \rangle \\ &= \lVert \sum\limits_{i=1}^{n} {\alpha}_i \phi \left( {\bm x}_i \right) \rVert^2_2 \\ &\geqslant 0 \end{aligned} αTKα=[α1,α2,,αn] κ(x1,x1)κ(x2,x1)κ(xn,x1)κ(x1,x2)κ(x2,x2)κ(xn,x2)κ(x1,xn)κ(x1,xn)κ(xn,xn) α1α2αn =i=1nj=1nαiκ(xi,xj)αj=i=1nj=1nαiαjϕ(xi),ϕ(xj)=i=1nαiϕ(xi),j=1nαjϕ(xj)=i=1nαiϕ(xi)220

这篇关于支持向量机(SVM)中核函数的本质意义的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1065651

相关文章

SpringKafka消息发布之KafkaTemplate与事务支持功能

《SpringKafka消息发布之KafkaTemplate与事务支持功能》通过本文介绍的基本用法、序列化选项、事务支持、错误处理和性能优化技术,开发者可以构建高效可靠的Kafka消息发布系统,事务支... 目录引言一、KafkaTemplate基础二、消息序列化三、事务支持机制四、错误处理与重试五、性能优

Android Kotlin 高阶函数详解及其在协程中的应用小结

《AndroidKotlin高阶函数详解及其在协程中的应用小结》高阶函数是Kotlin中的一个重要特性,它能够将函数作为一等公民(First-ClassCitizen),使得代码更加简洁、灵活和可... 目录1. 引言2. 什么是高阶函数?3. 高阶函数的基础用法3.1 传递函数作为参数3.2 Lambda

C++中::SHCreateDirectoryEx函数使用方法

《C++中::SHCreateDirectoryEx函数使用方法》::SHCreateDirectoryEx用于创建多级目录,类似于mkdir-p命令,本文主要介绍了C++中::SHCreateDir... 目录1. 函数原型与依赖项2. 基本使用示例示例 1:创建单层目录示例 2:创建多级目录3. 关键注

C++中函数模板与类模板的简单使用及区别介绍

《C++中函数模板与类模板的简单使用及区别介绍》这篇文章介绍了C++中的模板机制,包括函数模板和类模板的概念、语法和实际应用,函数模板通过类型参数实现泛型操作,而类模板允许创建可处理多种数据类型的类,... 目录一、函数模板定义语法真实示例二、类模板三、关键区别四、注意事项 ‌在C++中,模板是实现泛型编程

kotlin的函数forEach示例详解

《kotlin的函数forEach示例详解》在Kotlin中,forEach是一个高阶函数,用于遍历集合中的每个元素并对其执行指定的操作,它的核心特点是简洁、函数式,适用于需要遍历集合且无需返回值的场... 目录一、基本用法1️⃣ 遍历集合2️⃣ 遍历数组3️⃣ 遍历 Map二、与 for 循环的区别三、高

C语言字符函数和字符串函数示例详解

《C语言字符函数和字符串函数示例详解》本文详细介绍了C语言中字符分类函数、字符转换函数及字符串操作函数的使用方法,并通过示例代码展示了如何实现这些功能,通过这些内容,读者可以深入理解并掌握C语言中的字... 目录一、字符分类函数二、字符转换函数三、strlen的使用和模拟实现3.1strlen函数3.2st

MySQL中COALESCE函数示例详解

《MySQL中COALESCE函数示例详解》COALESCE是一个功能强大且常用的SQL函数,主要用来处理NULL值和实现灵活的值选择策略,能够使查询逻辑更清晰、简洁,:本文主要介绍MySQL中C... 目录语法示例1. 替换 NULL 值2. 用于字段默认值3. 多列优先级4. 结合聚合函数注意事项总结C

一文教你解决Python不支持中文路径的问题

《一文教你解决Python不支持中文路径的问题》Python是一种广泛使用的高级编程语言,然而在处理包含中文字符的文件路径时,Python有时会表现出一些不友好的行为,下面小编就来为大家介绍一下具体的... 目录问题背景解决方案1. 设置正确的文件编码2. 使用pathlib模块3. 转换路径为Unicod

Java8需要知道的4个函数式接口简单教程

《Java8需要知道的4个函数式接口简单教程》:本文主要介绍Java8中引入的函数式接口,包括Consumer、Supplier、Predicate和Function,以及它们的用法和特点,文中... 目录什么是函数是接口?Consumer接口定义核心特点注意事项常见用法1.基本用法2.结合andThen链

MySQL 日期时间格式化函数 DATE_FORMAT() 的使用示例详解

《MySQL日期时间格式化函数DATE_FORMAT()的使用示例详解》`DATE_FORMAT()`是MySQL中用于格式化日期时间的函数,本文详细介绍了其语法、格式化字符串的含义以及常见日期... 目录一、DATE_FORMAT()语法二、格式化字符串详解三、常见日期时间格式组合四、业务场景五、总结一、