本文主要是介绍机器学习算法/模型——总章,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
机器学习模型
- 1. 机器学习介绍
- 1.1 机器学习的概念
- 1.2 机器学习的框架
- 2. 分类和回归:有监督学习
- 2.1 线性回归
- 2.2 逻辑回归
- 2.3 支持向量机
- 2.4 决策树
- 2.5 朴素贝叶斯
- 3. 聚类:无监督学习
- 3.1 K-means
- 3.2 高斯混合模型(GMM)
- 4. 降维:无监督学习
- 3.1 主成分分析(PCA)
- 矩阵分解 PCA
- 奇异值分解(SVD)PCA
- 5. 集成学习
- 6. 阶段性总结
- 7. 代码
- 7.1 积累
- 7.2 sklearn
1. 机器学习介绍
1.1 机器学习的概念
机器学习介绍
机器学习介绍(进阶)
1.2 机器学习的框架
- 模型函数:数学工具
- 目标函数:对模型误差建模
目标函数 = 误差和 + 惩罚项
(结构风险) - 优化算法:求解目标函数的参数
2. 分类和回归:有监督学习
我们根据模型训练方式的不同,可以将机器学习的模型分为有监督学习和无监督学习两大类。而根据学习目标的不同,有监督的学习可以分为分类和回归两类方法。
2.1 线性回归
机器学习算法/模型——线性回归
2.2 逻辑回归
机器学习算法/模型——逻辑回归
2.3 支持向量机
机器学习算法/模型——支持向量机
2.4 决策树
机器学习算法/模型——决策树
2.5 朴素贝叶斯
机器学习算法/模型——朴素贝叶斯分类
3. 聚类:无监督学习
聚类距离的度量包括四个方法:
基于partition、基于hieratical、基于density和基于model,
但主最主要的是partition baesed 和 model based(另外两者都很慢),这两者典型例子分别是K-means和GMM。
3.1 K-means
机器学习算法/模型——有监督到无监督(聚类):由 KNN 到 K-menas
3.2 高斯混合模型(GMM)
高斯混合模型是基于高维高斯密度函数的一种聚类方法。假设一共有 个点要聚类,服从某种分布。我们要找到一组参数使得生成这些数据点的概率最大。
4. 降维:无监督学习
体会了机器学习的基本回归,分类,聚类到底是怎么回事后,该到了分析喂给这些算法的数据了,我们在之前介绍这些算法时,往往用到的数据都是已经预处理过的,比如做了归一化处理,做了降维处理等等。数据预处理做的好与坏,对我们最终问题的求解也是至关重要的,因此也是机器学习学习中的重要一个环节。
机器学习领域里讲的降维是指:采用某种映射方法,将原本高维空间中的数据样本映射到低维空间中。
降维的本质是学习一个映射函数 y=f(x),其中 x 表示原始的高维数据,y 表示映射后的低维数据。
3.1 主成分分析(PCA)
机器学习算法/模型——有监督到无监督(降维)主成分分析(PCA)
矩阵分解 PCA
奇异值分解(SVD)PCA
5. 集成学习
机器学习之集成学习
6. 阶段性总结
学习阶段总结:
机器学习模型/算法—— 阶段性总结(1)模型框架
机器学习模型/算法—— 阶段性总结(2)关键概念/技术
机器学习算法/模型—— 阶段性总结(3)面试考点
机器学习算法/模型——阶段性总结(4)更高层次
更深层次的理解:
假设:假设函数
模型泛化:偏差、方差、噪声
”距离“、”范数“和范数正则化
线性模型小结:还分不清线性回归和线性分类模型?
生成式模型还是判别式模型?
参数学习:LR 与 SVM的区别?
线性可分:线性(二分类)模型
分类损失函数(margin 损失函数)——以二分类为例
目标函数:经验损失(损失函数)和结构化损失(正则项)都做了些什么?
新知识点记录:
2020 机器学习知识点记录
7. 代码
7.1 积累
机器学习代码实践——数据——如何快速获取所需的实验数据
7.2 sklearn
机器学习——Sklearn学习笔记——总章
这篇关于机器学习算法/模型——总章的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!