KNN-机器学习实战系列(一)

2024-09-06 05:38
文章标签 实战 学习 机器 系列 knn

本文主要是介绍KNN-机器学习实战系列(一),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

开门见山,本文单说KNN:

作为机器学习实战书籍介绍的第一个算法,有一些值得说道的地方:

1:什么是KNN?

机器学习的一些基本知识和概念不加叙述了,直接给出KNN的白话定义:给定M个样本,每个样本均有N个数字衡量的属性,而每个样本均带有自身的标签:

这里,为什么需要数字化定义属性呢?这方便了我们衡量指标的计算,我们可以使用距离这一可用数学表达式实现的概念,来阐述何谓近邻。

而KNN,英文名:k-Nearest Neigbhors :称作K近邻算法,每次来一个新的样本,就可以通过从M个样本中,找出K个最近的样本,通过这K个样本的属性来判别新样本的类别:

可以看出,KNN属于监督类学习算法,对其提供支持的样本,都是标记好的样本;

2:算法角度的实现:

from numpy import *
def createDataSet():group = array([[1.0,1.1 ],[1.0,1.0],[0,0], [0,0.1]])labels = ['A','A','B','B']return group,labels
group,labels = createDataSet()

该段代码,负责样本集合的生成,浅显易懂,不多说:

这里,给出的样本非常简单,而实际上来说,我们在使用该算法的过程中,样本都会比较复杂,属性也会比较多,这些在本文不予涉及,生成样本的方式是多种多样的,我们这里要做的,是直接对合规的样本进行操作:

接下来是主题逻辑:

def classify0(intX,dataSet,labels,k):# 获取样本的总数,比如样本是N行dataSetSize = dataSet.shape[0]# tile方式,会生成N行与待测样本完全一致的数据集tiles  =  tile(intX, (dataSetSize,1))# 取差值,这就是python的简便之处了,一句话求取出所有的(x-x1)和(y-y1)diffMat =  tiles - dataSet# 对于所有的元素进行平方操作sqDiffMat = diffMat ** 2# 平方操作加起和,得到距离sqDistances = sqDiffMat.sum(axis=1)# 距离排序sortedDistIndicies = sqDistances.argsort()# 取出距离最小的K个点,记录标签classCount = {}for i in range(k):voteIlabel = labels[sortedDistIndicies[i]]classCount[voteIlabel] = classCount.get(voteIlabel,0)+1# 查看这K个点中,哪种类别比较多sortedClassCount = sorted(classCount.iteritems(),key = operator.itemgetter(1),reverse=True)return sortedClassCount[0][0];

总体思想就是这样:很简单,很好理解,用一句古话说就是:近朱者赤,近墨者黑。

3:我对该算法的一些理解:

KNN算是机器学习之初诞生的一些老算法了,其性能还算不错,当然同时也是有缺陷的:

首先,其缺陷在于需要每次样本都要遍历一次所有的数据,这个计算量相对比较大,如果样本集合已经有百万,甚至是千万那么大,我们每次还要为一个样本去计算数百万,甚至是数千万次,投入和产出明显是不成正比的:

个人感觉,这里其实可以用堆排序的方法来做优化,设置一个K元素大小的最小堆,来尽可能减小算法的复杂度:

其二,这里的K设置是很关键的,假如说K太小,可能很少的元素就决定了新样例的样本,这是不合理的,如果K太大,会导致计算和排序比较麻烦,所以需要从中调和:

其三,如果某个属性值本身比较大,可能会导致在距离计算的时候,导致该属性占据的份额比较大,这是有问题的,所以可通过归一化进行处理,将数据的计算都整合在0-1的范围之内,方便我们的计算:

这篇关于KNN-机器学习实战系列(一)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1141151

相关文章

Spring Boot + MyBatis Plus 高效开发实战从入门到进阶优化(推荐)

《SpringBoot+MyBatisPlus高效开发实战从入门到进阶优化(推荐)》本文将详细介绍SpringBoot+MyBatisPlus的完整开发流程,并深入剖析分页查询、批量操作、动... 目录Spring Boot + MyBATis Plus 高效开发实战:从入门到进阶优化1. MyBatis

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Pandas使用SQLite3实战

《Pandas使用SQLite3实战》本文主要介绍了Pandas使用SQLite3实战,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学... 目录1 环境准备2 从 SQLite3VlfrWQzgt 读取数据到 DataFrame基础用法:读

Python实战之屏幕录制功能的实现

《Python实战之屏幕录制功能的实现》屏幕录制,即屏幕捕获,是指将计算机屏幕上的活动记录下来,生成视频文件,本文主要为大家介绍了如何使用Python实现这一功能,希望对大家有所帮助... 目录屏幕录制原理图像捕获音频捕获编码压缩输出保存完整的屏幕录制工具高级功能实时预览增加水印多平台支持屏幕录制原理屏幕

最新Spring Security实战教程之Spring Security安全框架指南

《最新SpringSecurity实战教程之SpringSecurity安全框架指南》SpringSecurity是Spring生态系统中的核心组件,提供认证、授权和防护机制,以保护应用免受各种安... 目录前言什么是Spring Security?同类框架对比Spring Security典型应用场景传统

最新Spring Security实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)

《最新SpringSecurity实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)》本章节介绍了如何通过SpringSecurity实现从配置自定义登录页面、表单登录处理逻辑的配置,并简单模拟... 目录前言改造准备开始登录页改造自定义用户名密码登陆成功失败跳转问题自定义登出前后端分离适配方案结语前言

OpenManus本地部署实战亲测有效完全免费(最新推荐)

《OpenManus本地部署实战亲测有效完全免费(最新推荐)》文章介绍了如何在本地部署OpenManus大语言模型,包括环境搭建、LLM编程接口配置和测试步骤,本文给大家讲解的非常详细,感兴趣的朋友一... 目录1.概况2.环境搭建2.1安装miniconda或者anaconda2.2 LLM编程接口配置2

Java进阶学习之如何开启远程调式

《Java进阶学习之如何开启远程调式》Java开发中的远程调试是一项至关重要的技能,特别是在处理生产环境的问题或者协作开发时,:本文主要介绍Java进阶学习之如何开启远程调式的相关资料,需要的朋友... 目录概述Java远程调试的开启与底层原理开启Java远程调试底层原理JVM参数总结&nbsMbKKXJx

基于Canvas的Html5多时区动态时钟实战代码

《基于Canvas的Html5多时区动态时钟实战代码》:本文主要介绍了如何使用Canvas在HTML5上实现一个多时区动态时钟的web展示,通过Canvas的API,可以绘制出6个不同城市的时钟,并且这些时钟可以动态转动,每个时钟上都会标注出对应的24小时制时间,详细内容请阅读本文,希望能对你有所帮助...

Spring AI与DeepSeek实战一之快速打造智能对话应用

《SpringAI与DeepSeek实战一之快速打造智能对话应用》本文详细介绍了如何通过SpringAI框架集成DeepSeek大模型,实现普通对话和流式对话功能,步骤包括申请API-KEY、项目搭... 目录一、概述二、申请DeepSeek的API-KEY三、项目搭建3.1. 开发环境要求3.2. mav