一些知识点的初步理解_9(独立成分分析-ICA,ing...)

2023-12-16 05:32

本文主要是介绍一些知识点的初步理解_9(独立成分分析-ICA,ing...),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本文转自http://www.cnblogs.com/tornadomeet/archive/2012/12/30/2839841.html

独立成分分析(后面都用ICA代替)在维基百科中的解释是:一种利用统计原理进行计算的方法它是一个线性变换。这个变换把数据或信号分离成统计独立的非高斯的信号源的线性组合。独立成分分析是盲信号分离(Blind source separation)的一种特例。

  可以感性上对比下ICA和PCA的区别,PCA是将原始数据降维并提取出不相关的属性,可以参考前面博文的介绍:PCA算法学习_1(OpenCV中PCA实现人脸降维)和PCA算法学习_2(PCA理论的matlab实现),而ICA是将原始数据降维并提取出相互独立的属性。我们知道两个随机变量独立则它们一定不相关,但2个随机变量不相关则不能保证它们不独立,因为独立是表示没有任何关系,而不相关只能表明是没有线性关系。且PCA目的是找到这样一组分量表示,使得重构误差最小,即最能代表原事物的特征。ICA的目的是找到这样一组分量表示,使得每个分量最大化独立,能够发现一些隐藏因素。由此可见,ICA的条件比PCA更强些。

  另外,对任意两个相互独立的随机变量s1和s2,有下面的关系式成立:

  

  其中的函数g1和g2是任意的非线性变换(当然也包括了线性变换),也就是说任意的相互独立的随机变量的任意非线性变换后是不相关的。

  ICA的理解可以首先看下面的公式:

   

  我们的目的就是要根据已知向量X(可以把矩阵转换成向量)来求出变换矩阵A和对应的系数列向量s。此时这里只已知了X。并且在求A和s的过程中有下面几个假设:

  1.  s中的每个元素是相互统计独立的。

  2.  s中的每个元素是非高斯分布的。

  3.  变换矩阵A是可逆方阵。

  4.  s中元素的平方和为1.

  至于具体怎么去求解A和s,都是一些数学优化的东西,没怎么看懂,这节就不介绍了(本节目标也只是初步理解下ICA)。

 

  下面来看看ICA模型在图片分析中的理解:

  一般情况下我们的图片都是基于像素表示的,即图片中的每个位置给出一个像素值,然后保存这些像素值即可。不过这里我们采用基于图片basis的表示方法,即对一张图片用少数几个系数和对应的一组basis images表示。Basis image指的是基图片,即其它的图片可以用这些basis image线性组合表示,有点类似基坐标系这一概念。如下图所示,一副图片可以用几个basis image表示:

   

  其数学上的表示可以表示如下:

   

  其中Ai就可以看做是basis image,Si可以看成是basis images图片的系数。当然了经过一系列的数学分析,Si是可以从原图像I(x,y)中求到的,公式如下:

  

 

  参考文献:

     PCA算法学习_2(PCA理论的matlab实现)

     PCA算法学习_1(OpenCV中PCA实现人脸降维)

     独立成分分析(维基百科)

     A. Hyvarinen, J. Hurri, and P. Hoyer. Natural Image Statis-tics. Springer, 2009

     独立成分分析Independent Component Analysis (ICA).ppt

 


这篇关于一些知识点的初步理解_9(独立成分分析-ICA,ing...)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/499277

相关文章

Android kotlin中 Channel 和 Flow 的区别和选择使用场景分析

《Androidkotlin中Channel和Flow的区别和选择使用场景分析》Kotlin协程中,Flow是冷数据流,按需触发,适合响应式数据处理;Channel是热数据流,持续发送,支持... 目录一、基本概念界定FlowChannel二、核心特性对比数据生产触发条件生产与消费的关系背压处理机制生命周期

怎样通过分析GC日志来定位Java进程的内存问题

《怎样通过分析GC日志来定位Java进程的内存问题》:本文主要介绍怎样通过分析GC日志来定位Java进程的内存问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、GC 日志基础配置1. 启用详细 GC 日志2. 不同收集器的日志格式二、关键指标与分析维度1.

从原理到实战深入理解Java 断言assert

《从原理到实战深入理解Java断言assert》本文深入解析Java断言机制,涵盖语法、工作原理、启用方式及与异常的区别,推荐用于开发阶段的条件检查与状态验证,并强调生产环境应使用参数验证工具类替代... 目录深入理解 Java 断言(assert):从原理到实战引言:为什么需要断言?一、断言基础1.1 语

MySQL之InnoDB存储页的独立表空间解读

《MySQL之InnoDB存储页的独立表空间解读》:本文主要介绍MySQL之InnoDB存储页的独立表空间,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、背景2、独立表空间【1】表空间大小【2】区【3】组【4】段【5】区的类型【6】XDES Entry区结构【

MySQL中的表连接原理分析

《MySQL中的表连接原理分析》:本文主要介绍MySQL中的表连接原理分析,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、背景2、环境3、表连接原理【1】驱动表和被驱动表【2】内连接【3】外连接【4编程】嵌套循环连接【5】join buffer4、总结1、背景

python中Hash使用场景分析

《python中Hash使用场景分析》Python的hash()函数用于获取对象哈希值,常用于字典和集合,不可变类型可哈希,可变类型不可,常见算法包括除法、乘法、平方取中和随机数哈希,各有优缺点,需根... 目录python中的 Hash除法哈希算法乘法哈希算法平方取中法随机数哈希算法小结在Python中,

Java Stream的distinct去重原理分析

《JavaStream的distinct去重原理分析》Javastream中的distinct方法用于去除流中的重复元素,它返回一个包含过滤后唯一元素的新流,该方法会根据元素的hashcode和eq... 目录一、distinct 的基础用法与核心特性二、distinct 的底层实现原理1. 顺序流中的去重

关于MyISAM和InnoDB对比分析

《关于MyISAM和InnoDB对比分析》:本文主要介绍关于MyISAM和InnoDB对比分析,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录开篇:从交通规则看存储引擎选择理解存储引擎的基本概念技术原理对比1. 事务支持:ACID的守护者2. 锁机制:并发控制的艺

MyBatis Plus 中 update_time 字段自动填充失效的原因分析及解决方案(最新整理)

《MyBatisPlus中update_time字段自动填充失效的原因分析及解决方案(最新整理)》在使用MyBatisPlus时,通常我们会在数据库表中设置create_time和update... 目录前言一、问题现象二、原因分析三、总结:常见原因与解决方法对照表四、推荐写法前言在使用 MyBATis

Python主动抛出异常的各种用法和场景分析

《Python主动抛出异常的各种用法和场景分析》在Python中,我们不仅可以捕获和处理异常,还可以主动抛出异常,也就是以类的方式自定义错误的类型和提示信息,这在编程中非常有用,下面我将详细解释主动抛... 目录一、为什么要主动抛出异常?二、基本语法:raise关键字基本示例三、raise的多种用法1. 抛