机器学习算法/模型——总章

2023-10-11 02:32

本文主要是介绍机器学习算法/模型——总章,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

机器学习模型

  • 1. 机器学习介绍
    • 1.1 机器学习的概念
    • 1.2 机器学习的框架
  • 2. 分类和回归:有监督学习
    • 2.1 线性回归
    • 2.2 逻辑回归
    • 2.3 支持向量机
    • 2.4 决策树
    • 2.5 朴素贝叶斯
  • 3. 聚类:无监督学习
    • 3.1 K-means
    • 3.2 高斯混合模型(GMM)
  • 4. 降维:无监督学习
    • 3.1 主成分分析(PCA)
      • 矩阵分解 PCA
      • 奇异值分解(SVD)PCA
  • 5. 集成学习
  • 6. 阶段性总结
  • 7. 代码
    • 7.1 积累
    • 7.2 sklearn

1. 机器学习介绍

1.1 机器学习的概念

机器学习介绍
机器学习介绍(进阶)

1.2 机器学习的框架

  • 模型函数:数学工具
  • 目标函数:对模型误差建模
    目标函数 = 误差和 + 惩罚项
    (结构风险)
  • 优化算法:求解目标函数的参数

2. 分类和回归:有监督学习

我们根据模型训练方式的不同,可以将机器学习的模型分为有监督学习无监督学习两大类。而根据学习目标的不同,有监督的学习可以分为分类回归两类方法。

2.1 线性回归

机器学习算法/模型——线性回归

2.2 逻辑回归

机器学习算法/模型——逻辑回归

2.3 支持向量机

机器学习算法/模型——支持向量机

2.4 决策树

机器学习算法/模型——决策树

2.5 朴素贝叶斯

机器学习算法/模型——朴素贝叶斯分类

3. 聚类:无监督学习

聚类距离的度量包括四个方法:
基于partition、基于hieratical、基于density和基于model,
但主最主要的是partition baesedmodel based(另外两者都很慢),这两者典型例子分别是K-meansGMM

3.1 K-means

机器学习算法/模型——有监督到无监督(聚类):由 KNN 到 K-menas

3.2 高斯混合模型(GMM)

高斯混合模型是基于高维高斯密度函数的一种聚类方法。假设一共有 个点要聚类,服从某种分布。我们要找到一组参数使得生成这些数据点的概率最大。
在这里插入图片描述

4. 降维:无监督学习

体会了机器学习的基本回归,分类,聚类到底是怎么回事后,该到了分析喂给这些算法的数据了,我们在之前介绍这些算法时,往往用到的数据都是已经预处理过的,比如做了归一化处理,做了降维处理等等。数据预处理做的好与坏,对我们最终问题的求解也是至关重要的,因此也是机器学习学习中的重要一个环节。

机器学习领域里讲的降维是指:采用某种映射方法,将原本高维空间中的数据样本映射到低维空间中。

降维的本质是学习一个映射函数 y=f(x),其中 x 表示原始的高维数据,y 表示映射后的低维数据。

3.1 主成分分析(PCA)

机器学习算法/模型——有监督到无监督(降维)主成分分析(PCA)

在这里插入图片描述

矩阵分解 PCA

奇异值分解(SVD)PCA

5. 集成学习

机器学习之集成学习

6. 阶段性总结

学习阶段总结:
机器学习模型/算法—— 阶段性总结(1)模型框架
机器学习模型/算法—— 阶段性总结(2)关键概念/技术
机器学习算法/模型—— 阶段性总结(3)面试考点
机器学习算法/模型——阶段性总结(4)更高层次

更深层次的理解:
假设:假设函数
模型泛化:偏差、方差、噪声
”距离“、”范数“和范数正则化
线性模型小结:还分不清线性回归和线性分类模型?
生成式模型还是判别式模型?
参数学习:LR 与 SVM的区别?
线性可分:线性(二分类)模型
分类损失函数(margin 损失函数)——以二分类为例
目标函数:经验损失(损失函数)和结构化损失(正则项)都做了些什么?

新知识点记录:
2020 机器学习知识点记录

7. 代码

7.1 积累

机器学习代码实践——数据——如何快速获取所需的实验数据

7.2 sklearn

机器学习——Sklearn学习笔记——总章

这篇关于机器学习算法/模型——总章的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/184906

相关文章

Java中的雪花算法Snowflake解析与实践技巧

《Java中的雪花算法Snowflake解析与实践技巧》本文解析了雪花算法的原理、Java实现及生产实践,涵盖ID结构、位运算技巧、时钟回拨处理、WorkerId分配等关键点,并探讨了百度UidGen... 目录一、雪花算法核心原理1.1 算法起源1.2 ID结构详解1.3 核心特性二、Java实现解析2.

Go学习记录之runtime包深入解析

《Go学习记录之runtime包深入解析》Go语言runtime包管理运行时环境,涵盖goroutine调度、内存分配、垃圾回收、类型信息等核心功能,:本文主要介绍Go学习记录之runtime包的... 目录前言:一、runtime包内容学习1、作用:① Goroutine和并发控制:② 垃圾回收:③ 栈和

Android学习总结之Java和kotlin区别超详细分析

《Android学习总结之Java和kotlin区别超详细分析》Java和Kotlin都是用于Android开发的编程语言,它们各自具有独特的特点和优势,:本文主要介绍Android学习总结之Ja... 目录一、空安全机制真题 1:Kotlin 如何解决 Java 的 NullPointerExceptio

详解如何使用Python从零开始构建文本统计模型

《详解如何使用Python从零开始构建文本统计模型》在自然语言处理领域,词汇表构建是文本预处理的关键环节,本文通过Python代码实践,演示如何从原始文本中提取多尺度特征,并通过动态调整机制构建更精确... 目录一、项目背景与核心思想二、核心代码解析1. 数据加载与预处理2. 多尺度字符统计3. 统计结果可

SpringBoot整合Sa-Token实现RBAC权限模型的过程解析

《SpringBoot整合Sa-Token实现RBAC权限模型的过程解析》:本文主要介绍SpringBoot整合Sa-Token实现RBAC权限模型的过程解析,本文给大家介绍的非常详细,对大家的学... 目录前言一、基础概念1.1 RBAC模型核心概念1.2 Sa-Token核心功能1.3 环境准备二、表结

使用雪花算法产生id导致前端精度缺失问题解决方案

《使用雪花算法产生id导致前端精度缺失问题解决方案》雪花算法由Twitter提出,设计目的是生成唯一的、递增的ID,下面:本文主要介绍使用雪花算法产生id导致前端精度缺失问题的解决方案,文中通过代... 目录一、问题根源二、解决方案1. 全局配置Jackson序列化规则2. 实体类必须使用Long封装类3.

重新对Java的类加载器的学习方式

《重新对Java的类加载器的学习方式》:本文主要介绍重新对Java的类加载器的学习方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、介绍1.1、简介1.2、符号引用和直接引用1、符号引用2、直接引用3、符号转直接的过程2、加载流程3、类加载的分类3.1、显示

Springboot实现推荐系统的协同过滤算法

《Springboot实现推荐系统的协同过滤算法》协同过滤算法是一种在推荐系统中广泛使用的算法,用于预测用户对物品(如商品、电影、音乐等)的偏好,从而实现个性化推荐,下面给大家介绍Springboot... 目录前言基本原理 算法分类 计算方法应用场景 代码实现 前言协同过滤算法(Collaborativ

Java学习手册之Filter和Listener使用方法

《Java学习手册之Filter和Listener使用方法》:本文主要介绍Java学习手册之Filter和Listener使用方法的相关资料,Filter是一种拦截器,可以在请求到达Servl... 目录一、Filter(过滤器)1. Filter 的工作原理2. Filter 的配置与使用二、Listen

openCV中KNN算法的实现

《openCV中KNN算法的实现》KNN算法是一种简单且常用的分类算法,本文主要介绍了openCV中KNN算法的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的... 目录KNN算法流程使用OpenCV实现KNNOpenCV 是一个开源的跨平台计算机视觉库,它提供了各