分类算法NB

2024-03-27 16:30
文章标签 算法 分类 nb

本文主要是介绍分类算法NB,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

常见的机器学习任务

定义:给定一个对象X, 将其划分到预定义好的某的一个类别Yi中

-- 输入:X

-- 输出: Y(取值于有限的集合{y1,y2,y3...........,yn})

应用:

--人群,新闻分类,query分类,商品分类,网页分类,垃圾邮件过滤,网页排序

类别数量

--  二值分类

      Y的取值只有两种,如邮件是否垃圾邮件

-- 多值分类

     Y的取值大于两个,如:网页分类{政治,经济,体育,........}

类别关系

-- 水平关系

    类别之间无包含关系

--  层级关系

    类别形成等级体系

 

朴素贝叶斯(NaiveBeyesian Classification,NB) 分类器

-- 概率模型

-- 基于贝叶斯原理

• P(X):待分类对象自身的概率,可忽略
• P(yi):每个类别的先验概率,如P(军事)
• P(X|yi):每个类别产生该对象的概率
• P(xi|yi):每个类别产生该特征的概率,如P(苹果|科技)

 

模 型 训 练 、 参 数 估 计

策略:最大似然估计(maximum likehood estimation,MLE)

-- P(Yi)

• Count(yi):类别为yi的对象在训练数据中出现的次数
– 例如:
• 总共训练数据1000篇,其中军事类300篇,科技类240篇,生活类140篇,……
• P(军事)=0.3, P(科技)=0.24, P(生活)=0.14,……

 

 

 最大似然估计(maximum likehood estimation,MLE)

– P(xj|yi)
• Count(xj, yi):特征xj和类别yi在训练数据中同时出现的次数
– 例如:
• 总共训练数据1000篇,其中军事类300篇,科技类240篇,生活类140篇,……
• 军事类新闻中,谷歌出现15篇,投资出现9篇,上涨出现36篇
• P(谷歌|军事)=0.05, P(投资|军事)=0.03, P(上涨|军事)=0.12,……

 

模 型 示 例:

• P(yi)
– p(军事)=0.3, p(科技)=0.24, p(生活)=0.14,……
• P(xj|yi)
– P(谷歌|军事)=0.05, P(投资|军事)=0.03, P(上涨|军事)=0.12,……
– P(谷歌|科技)=0.15, P(投资|科技)=0.10, P(上涨|科技)=0.04,……
– P(谷歌|生活)=0.08, P(投资|生活)=0.13, P(上涨|生活)=0.18,……

 

预 测

分类原则

– 给定X,计算所有的p(yi|X),选择概率值最大的yi作为输出
• X={国内,投资,市场,……}       ---------------------》 词的集合
• P(军事|X)=P(国内|军事)* P(投资|军事)* P(市场|军事)……P(军事)
• 同样计算P(科技|X) P(生活|X)
– 二值和多值分类同样的做法

 

评测:

• 测试数据
– (微软更新必应搜索,科技)
– (名企精装修直降30万,房产)
– (国际版块利空突袭 周一大盘堪忧,财经)

混淆表:

• 准确度Accuracy:(C11+C22)/(C11+C12+C21+C22)
• 精确率Precision(y1):C11/(C11+C21)
• 召回率Recall(y1):C11/(C11+C12)

 

评测指标:

• 准确度Accuracy:(50+35)/(35+5+10+50)=85%       -------------》 模型已预测对的
• 精确率Precision(y1):50/(50+5)=90.9% 
• 召回率Recall(y1):50/(50+10)=83.3%

 

 

朴 素 贝 叶 斯 分 类 特 点:

• 优点:
– 简单有效
– 结果是概率,对二值和多值同样适用
• 缺点:
– 独立性假设有时不合理

-----------------------自己理解部分-------------------------

朴素贝叶斯推导,理解与举例说明:

P(X|Y) = P(X,Y)/P(Y)      --------》 联合概率

P(X,Y)=P(X|Y)*P(Y)

P(X,Y)=P(Y,X)=P(Y|X)*P(X)

P(X|Y) = P(Y|X)*P(X)/P(Y)


P(yi|X)=P(yi)P(X|yi)/P(X)

yi是指某一个分类
Y={军事、财经、体育}
X=一篇文章
xi=文章中具体某一个词

P(yi|X):给定一篇文章,属于某一个类别的概率值
P(yi):先验概率

给大家100篇文章,其中50篇是军事、30篇财经、20篇体育
P(y=军事) = 50/100
P(y=财经) = 30/100
P(y=体育) = 20/100

P(X):这篇文章的概率=是一个固定值,可以忽略掉

P(yi|X)≈ P(yi)P(X|yi)
P(X|yi):对于y指定的类别中,出现X的概率

P(xi|yi):对于y指定的类别中,出现x这个词的概率
y=军事,x=军舰

X={军舰、大炮、航母}
P(X|y=军事) = P(x=军舰|y=军事)*P(x=大炮|y=军事)*P(x=航母|y=军事)
前提:独立同分布=》朴素贝叶斯

P(yi|X)≈ P(yi)P(X|yi)
对每一个标签都求对应概率,最大者为该分类
 

--------------------还未写完--------------------

这篇关于分类算法NB的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/852741

相关文章

不懂推荐算法也能设计推荐系统

本文以商业化应用推荐为例,告诉我们不懂推荐算法的产品,也能从产品侧出发, 设计出一款不错的推荐系统。 相信很多新手产品,看到算法二字,多是懵圈的。 什么排序算法、最短路径等都是相对传统的算法(注:传统是指科班出身的产品都会接触过)。但对于推荐算法,多数产品对着网上搜到的资源,都会无从下手。特别当某些推荐算法 和 “AI”扯上关系后,更是加大了理解的难度。 但,不了解推荐算法,就无法做推荐系

基于人工智能的图像分类系统

目录 引言项目背景环境准备 硬件要求软件安装与配置系统设计 系统架构关键技术代码示例 数据预处理模型训练模型预测应用场景结论 1. 引言 图像分类是计算机视觉中的一个重要任务,目标是自动识别图像中的对象类别。通过卷积神经网络(CNN)等深度学习技术,我们可以构建高效的图像分类系统,广泛应用于自动驾驶、医疗影像诊断、监控分析等领域。本文将介绍如何构建一个基于人工智能的图像分类系统,包括环境

康拓展开(hash算法中会用到)

康拓展开是一个全排列到一个自然数的双射(也就是某个全排列与某个自然数一一对应) 公式: X=a[n]*(n-1)!+a[n-1]*(n-2)!+...+a[i]*(i-1)!+...+a[1]*0! 其中,a[i]为整数,并且0<=a[i]<i,1<=i<=n。(a[i]在不同应用中的含义不同); 典型应用: 计算当前排列在所有由小到大全排列中的顺序,也就是说求当前排列是第

认识、理解、分类——acm之搜索

普通搜索方法有两种:1、广度优先搜索;2、深度优先搜索; 更多搜索方法: 3、双向广度优先搜索; 4、启发式搜索(包括A*算法等); 搜索通常会用到的知识点:状态压缩(位压缩,利用hash思想压缩)。

csu 1446 Problem J Modified LCS (扩展欧几里得算法的简单应用)

这是一道扩展欧几里得算法的简单应用题,这题是在湖南多校训练赛中队友ac的一道题,在比赛之后请教了队友,然后自己把它a掉 这也是自己独自做扩展欧几里得算法的题目 题意:把题意转变下就变成了:求d1*x - d2*y = f2 - f1的解,很明显用exgcd来解 下面介绍一下exgcd的一些知识点:求ax + by = c的解 一、首先求ax + by = gcd(a,b)的解 这个

综合安防管理平台LntonAIServer视频监控汇聚抖动检测算法优势

LntonAIServer视频质量诊断功能中的抖动检测是一个专门针对视频稳定性进行分析的功能。抖动通常是指视频帧之间的不必要运动,这种运动可能是由于摄像机的移动、传输中的错误或编解码问题导致的。抖动检测对于确保视频内容的平滑性和观看体验至关重要。 优势 1. 提高图像质量 - 清晰度提升:减少抖动,提高图像的清晰度和细节表现力,使得监控画面更加真实可信。 - 细节增强:在低光条件下,抖

【数据结构】——原来排序算法搞懂这些就行,轻松拿捏

前言:快速排序的实现最重要的是找基准值,下面让我们来了解如何实现找基准值 基准值的注释:在快排的过程中,每一次我们要取一个元素作为枢纽值,以这个数字来将序列划分为两部分。 在此我们采用三数取中法,也就是取左端、中间、右端三个数,然后进行排序,将中间数作为枢纽值。 快速排序实现主框架: //快速排序 void QuickSort(int* arr, int left, int rig

poj 3974 and hdu 3068 最长回文串的O(n)解法(Manacher算法)

求一段字符串中的最长回文串。 因为数据量比较大,用原来的O(n^2)会爆。 小白上的O(n^2)解法代码:TLE啦~ #include<stdio.h>#include<string.h>const int Maxn = 1000000;char s[Maxn];int main(){char e[] = {"END"};while(scanf("%s", s) != EO

秋招最新大模型算法面试,熬夜都要肝完它

💥大家在面试大模型LLM这个板块的时候,不知道面试完会不会复盘、总结,做笔记的习惯,这份大模型算法岗面试八股笔记也帮助不少人拿到过offer ✨对于面试大模型算法工程师会有一定的帮助,都附有完整答案,熬夜也要看完,祝大家一臂之力 这份《大模型算法工程师面试题》已经上传CSDN,还有完整版的大模型 AI 学习资料,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

dp算法练习题【8】

不同二叉搜索树 96. 不同的二叉搜索树 给你一个整数 n ,求恰由 n 个节点组成且节点值从 1 到 n 互不相同的 二叉搜索树 有多少种?返回满足题意的二叉搜索树的种数。 示例 1: 输入:n = 3输出:5 示例 2: 输入:n = 1输出:1 class Solution {public int numTrees(int n) {int[] dp = new int