本文主要是介绍感知机和SVM的区别,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
感知机和SVM的区别:
1、相同点
都是属于监督学习的一种分类器(决策函数)。
2、不同点
- 感知机追求最大程度正确划分,最小化错误,效果类似紫线,很容易造成过拟合。
- 支持向量机追求大致正确分类的同时,一定程度上避免过拟合,效果类似下图中的黑线。
- 感知机使用的学习策略是梯度下降法,而SVM采用的是由约束条件构造拉格朗日函数,然后求偏导令其为0求得极值点。这里特别说明下一般我们的拉格朗日函数是符合凸函数的,因此对于凸函数一定存在极值点,也是唯一的最优解。而一般的非凸函数,只好采用梯度下降法一步一步的求得极值点,如果非凸函数还是采用求导令为0,可能找不到极值点!因为鞍点也是导数为,但却不是极值点的特例,如y = x^3函数。导数为0是函数极值点的必要条件。
这篇关于感知机和SVM的区别的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!