机器学习算法/模型——总章

2023-10-11 02:32

本文主要是介绍机器学习算法/模型——总章,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

机器学习模型

  • 1. 机器学习介绍
    • 1.1 机器学习的概念
    • 1.2 机器学习的框架
  • 2. 分类和回归:有监督学习
    • 2.1 线性回归
    • 2.2 逻辑回归
    • 2.3 支持向量机
    • 2.4 决策树
    • 2.5 朴素贝叶斯
  • 3. 聚类:无监督学习
    • 3.1 K-means
    • 3.2 高斯混合模型(GMM)
  • 4. 降维:无监督学习
    • 3.1 主成分分析(PCA)
      • 矩阵分解 PCA
      • 奇异值分解(SVD)PCA
  • 5. 集成学习
  • 6. 阶段性总结
  • 7. 代码
    • 7.1 积累
    • 7.2 sklearn

1. 机器学习介绍

1.1 机器学习的概念

机器学习介绍
机器学习介绍(进阶)

1.2 机器学习的框架

  • 模型函数:数学工具
  • 目标函数:对模型误差建模
    目标函数 = 误差和 + 惩罚项
    (结构风险)
  • 优化算法:求解目标函数的参数

2. 分类和回归:有监督学习

我们根据模型训练方式的不同,可以将机器学习的模型分为有监督学习无监督学习两大类。而根据学习目标的不同,有监督的学习可以分为分类回归两类方法。

2.1 线性回归

机器学习算法/模型——线性回归

2.2 逻辑回归

机器学习算法/模型——逻辑回归

2.3 支持向量机

机器学习算法/模型——支持向量机

2.4 决策树

机器学习算法/模型——决策树

2.5 朴素贝叶斯

机器学习算法/模型——朴素贝叶斯分类

3. 聚类:无监督学习

聚类距离的度量包括四个方法:
基于partition、基于hieratical、基于density和基于model,
但主最主要的是partition baesedmodel based(另外两者都很慢),这两者典型例子分别是K-meansGMM

3.1 K-means

机器学习算法/模型——有监督到无监督(聚类):由 KNN 到 K-menas

3.2 高斯混合模型(GMM)

高斯混合模型是基于高维高斯密度函数的一种聚类方法。假设一共有 个点要聚类,服从某种分布。我们要找到一组参数使得生成这些数据点的概率最大。
在这里插入图片描述

4. 降维:无监督学习

体会了机器学习的基本回归,分类,聚类到底是怎么回事后,该到了分析喂给这些算法的数据了,我们在之前介绍这些算法时,往往用到的数据都是已经预处理过的,比如做了归一化处理,做了降维处理等等。数据预处理做的好与坏,对我们最终问题的求解也是至关重要的,因此也是机器学习学习中的重要一个环节。

机器学习领域里讲的降维是指:采用某种映射方法,将原本高维空间中的数据样本映射到低维空间中。

降维的本质是学习一个映射函数 y=f(x),其中 x 表示原始的高维数据,y 表示映射后的低维数据。

3.1 主成分分析(PCA)

机器学习算法/模型——有监督到无监督(降维)主成分分析(PCA)

在这里插入图片描述

矩阵分解 PCA

奇异值分解(SVD)PCA

5. 集成学习

机器学习之集成学习

6. 阶段性总结

学习阶段总结:
机器学习模型/算法—— 阶段性总结(1)模型框架
机器学习模型/算法—— 阶段性总结(2)关键概念/技术
机器学习算法/模型—— 阶段性总结(3)面试考点
机器学习算法/模型——阶段性总结(4)更高层次

更深层次的理解:
假设:假设函数
模型泛化:偏差、方差、噪声
”距离“、”范数“和范数正则化
线性模型小结:还分不清线性回归和线性分类模型?
生成式模型还是判别式模型?
参数学习:LR 与 SVM的区别?
线性可分:线性(二分类)模型
分类损失函数(margin 损失函数)——以二分类为例
目标函数:经验损失(损失函数)和结构化损失(正则项)都做了些什么?

新知识点记录:
2020 机器学习知识点记录

7. 代码

7.1 积累

机器学习代码实践——数据——如何快速获取所需的实验数据

7.2 sklearn

机器学习——Sklearn学习笔记——总章

这篇关于机器学习算法/模型——总章的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/184906

相关文章

Python基于火山引擎豆包大模型搭建QQ机器人详细教程(2024年最新)

《Python基于火山引擎豆包大模型搭建QQ机器人详细教程(2024年最新)》:本文主要介绍Python基于火山引擎豆包大模型搭建QQ机器人详细的相关资料,包括开通模型、配置APIKEY鉴权和SD... 目录豆包大模型概述开通模型付费安装 SDK 环境配置 API KEY 鉴权Ark 模型接口Prompt

HarmonyOS学习(七)——UI(五)常用布局总结

自适应布局 1.1、线性布局(LinearLayout) 通过线性容器Row和Column实现线性布局。Column容器内的子组件按照垂直方向排列,Row组件中的子组件按照水平方向排列。 属性说明space通过space参数设置主轴上子组件的间距,达到各子组件在排列上的等间距效果alignItems设置子组件在交叉轴上的对齐方式,且在各类尺寸屏幕上表现一致,其中交叉轴为垂直时,取值为Vert

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

不懂推荐算法也能设计推荐系统

本文以商业化应用推荐为例,告诉我们不懂推荐算法的产品,也能从产品侧出发, 设计出一款不错的推荐系统。 相信很多新手产品,看到算法二字,多是懵圈的。 什么排序算法、最短路径等都是相对传统的算法(注:传统是指科班出身的产品都会接触过)。但对于推荐算法,多数产品对着网上搜到的资源,都会无从下手。特别当某些推荐算法 和 “AI”扯上关系后,更是加大了理解的难度。 但,不了解推荐算法,就无法做推荐系

【前端学习】AntV G6-08 深入图形与图形分组、自定义节点、节点动画(下)

【课程链接】 AntV G6:深入图形与图形分组、自定义节点、节点动画(下)_哔哩哔哩_bilibili 本章十吾老师讲解了一个复杂的自定义节点中,应该怎样去计算和绘制图形,如何给一个图形制作不间断的动画,以及在鼠标事件之后产生动画。(有点难,需要好好理解) <!DOCTYPE html><html><head><meta charset="UTF-8"><title>06

学习hash总结

2014/1/29/   最近刚开始学hash,名字很陌生,但是hash的思想却很熟悉,以前早就做过此类的题,但是不知道这就是hash思想而已,说白了hash就是一个映射,往往灵活利用数组的下标来实现算法,hash的作用:1、判重;2、统计次数;

康拓展开(hash算法中会用到)

康拓展开是一个全排列到一个自然数的双射(也就是某个全排列与某个自然数一一对应) 公式: X=a[n]*(n-1)!+a[n-1]*(n-2)!+...+a[i]*(i-1)!+...+a[1]*0! 其中,a[i]为整数,并且0<=a[i]<i,1<=i<=n。(a[i]在不同应用中的含义不同); 典型应用: 计算当前排列在所有由小到大全排列中的顺序,也就是说求当前排列是第

csu 1446 Problem J Modified LCS (扩展欧几里得算法的简单应用)

这是一道扩展欧几里得算法的简单应用题,这题是在湖南多校训练赛中队友ac的一道题,在比赛之后请教了队友,然后自己把它a掉 这也是自己独自做扩展欧几里得算法的题目 题意:把题意转变下就变成了:求d1*x - d2*y = f2 - f1的解,很明显用exgcd来解 下面介绍一下exgcd的一些知识点:求ax + by = c的解 一、首先求ax + by = gcd(a,b)的解 这个

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G