KNN-机器学习实战系列(一)

2024-09-06 05:38
文章标签 实战 学习 机器 系列 knn

本文主要是介绍KNN-机器学习实战系列(一),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

开门见山,本文单说KNN:

作为机器学习实战书籍介绍的第一个算法,有一些值得说道的地方:

1:什么是KNN?

机器学习的一些基本知识和概念不加叙述了,直接给出KNN的白话定义:给定M个样本,每个样本均有N个数字衡量的属性,而每个样本均带有自身的标签:

这里,为什么需要数字化定义属性呢?这方便了我们衡量指标的计算,我们可以使用距离这一可用数学表达式实现的概念,来阐述何谓近邻。

而KNN,英文名:k-Nearest Neigbhors :称作K近邻算法,每次来一个新的样本,就可以通过从M个样本中,找出K个最近的样本,通过这K个样本的属性来判别新样本的类别:

可以看出,KNN属于监督类学习算法,对其提供支持的样本,都是标记好的样本;

2:算法角度的实现:

from numpy import *
def createDataSet():group = array([[1.0,1.1 ],[1.0,1.0],[0,0], [0,0.1]])labels = ['A','A','B','B']return group,labels
group,labels = createDataSet()

该段代码,负责样本集合的生成,浅显易懂,不多说:

这里,给出的样本非常简单,而实际上来说,我们在使用该算法的过程中,样本都会比较复杂,属性也会比较多,这些在本文不予涉及,生成样本的方式是多种多样的,我们这里要做的,是直接对合规的样本进行操作:

接下来是主题逻辑:

def classify0(intX,dataSet,labels,k):# 获取样本的总数,比如样本是N行dataSetSize = dataSet.shape[0]# tile方式,会生成N行与待测样本完全一致的数据集tiles  =  tile(intX, (dataSetSize,1))# 取差值,这就是python的简便之处了,一句话求取出所有的(x-x1)和(y-y1)diffMat =  tiles - dataSet# 对于所有的元素进行平方操作sqDiffMat = diffMat ** 2# 平方操作加起和,得到距离sqDistances = sqDiffMat.sum(axis=1)# 距离排序sortedDistIndicies = sqDistances.argsort()# 取出距离最小的K个点,记录标签classCount = {}for i in range(k):voteIlabel = labels[sortedDistIndicies[i]]classCount[voteIlabel] = classCount.get(voteIlabel,0)+1# 查看这K个点中,哪种类别比较多sortedClassCount = sorted(classCount.iteritems(),key = operator.itemgetter(1),reverse=True)return sortedClassCount[0][0];

总体思想就是这样:很简单,很好理解,用一句古话说就是:近朱者赤,近墨者黑。

3:我对该算法的一些理解:

KNN算是机器学习之初诞生的一些老算法了,其性能还算不错,当然同时也是有缺陷的:

首先,其缺陷在于需要每次样本都要遍历一次所有的数据,这个计算量相对比较大,如果样本集合已经有百万,甚至是千万那么大,我们每次还要为一个样本去计算数百万,甚至是数千万次,投入和产出明显是不成正比的:

个人感觉,这里其实可以用堆排序的方法来做优化,设置一个K元素大小的最小堆,来尽可能减小算法的复杂度:

其二,这里的K设置是很关键的,假如说K太小,可能很少的元素就决定了新样例的样本,这是不合理的,如果K太大,会导致计算和排序比较麻烦,所以需要从中调和:

其三,如果某个属性值本身比较大,可能会导致在距离计算的时候,导致该属性占据的份额比较大,这是有问题的,所以可通过归一化进行处理,将数据的计算都整合在0-1的范围之内,方便我们的计算:

这篇关于KNN-机器学习实战系列(一)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1141151

相关文章

从原理到实战深入理解Java 断言assert

《从原理到实战深入理解Java断言assert》本文深入解析Java断言机制,涵盖语法、工作原理、启用方式及与异常的区别,推荐用于开发阶段的条件检查与状态验证,并强调生产环境应使用参数验证工具类替代... 目录深入理解 Java 断言(assert):从原理到实战引言:为什么需要断言?一、断言基础1.1 语

Java MQTT实战应用

《JavaMQTT实战应用》本文详解MQTT协议,涵盖其发布/订阅机制、低功耗高效特性、三种服务质量等级(QoS0/1/2),以及客户端、代理、主题的核心概念,最后提供Linux部署教程、Sprin... 目录一、MQTT协议二、MQTT优点三、三种服务质量等级四、客户端、代理、主题1. 客户端(Clien

在Spring Boot中集成RabbitMQ的实战记录

《在SpringBoot中集成RabbitMQ的实战记录》本文介绍SpringBoot集成RabbitMQ的步骤,涵盖配置连接、消息发送与接收,并对比两种定义Exchange与队列的方式:手动声明(... 目录前言准备工作1. 安装 RabbitMQ2. 消息发送者(Producer)配置1. 创建 Spr

深度解析Spring Boot拦截器Interceptor与过滤器Filter的区别与实战指南

《深度解析SpringBoot拦截器Interceptor与过滤器Filter的区别与实战指南》本文深度解析SpringBoot中拦截器与过滤器的区别,涵盖执行顺序、依赖关系、异常处理等核心差异,并... 目录Spring Boot拦截器(Interceptor)与过滤器(Filter)深度解析:区别、实现

深度解析Spring AOP @Aspect 原理、实战与最佳实践教程

《深度解析SpringAOP@Aspect原理、实战与最佳实践教程》文章系统讲解了SpringAOP核心概念、实现方式及原理,涵盖横切关注点分离、代理机制(JDK/CGLIB)、切入点类型、性能... 目录1. @ASPect 核心概念1.1 AOP 编程范式1.2 @Aspect 关键特性2. 完整代码实

MySQL中的索引结构和分类实战案例详解

《MySQL中的索引结构和分类实战案例详解》本文详解MySQL索引结构与分类,涵盖B树、B+树、哈希及全文索引,分析其原理与优劣势,并结合实战案例探讨创建、管理及优化技巧,助力提升查询性能,感兴趣的朋... 目录一、索引概述1.1 索引的定义与作用1.2 索引的基本原理二、索引结构详解2.1 B树索引2.2

从入门到精通MySQL 数据库索引(实战案例)

《从入门到精通MySQL数据库索引(实战案例)》索引是数据库的目录,提升查询速度,主要类型包括BTree、Hash、全文、空间索引,需根据场景选择,建议用于高频查询、关联字段、排序等,避免重复率高或... 目录一、索引是什么?能干嘛?核心作用:二、索引的 4 种主要类型(附通俗例子)1. BTree 索引(

Java Web实现类似Excel表格锁定功能实战教程

《JavaWeb实现类似Excel表格锁定功能实战教程》本文将详细介绍通过创建特定div元素并利用CSS布局和JavaScript事件监听来实现类似Excel的锁定行和列效果的方法,感兴趣的朋友跟随... 目录1. 模拟Excel表格锁定功能2. 创建3个div元素实现表格锁定2.1 div元素布局设计2.

Redis 配置文件使用建议redis.conf 从入门到实战

《Redis配置文件使用建议redis.conf从入门到实战》Redis配置方式包括配置文件、命令行参数、运行时CONFIG命令,支持动态修改参数及持久化,常用项涉及端口、绑定、内存策略等,版本8... 目录一、Redis.conf 是什么?二、命令行方式传参(适用于测试)三、运行时动态修改配置(不重启服务

Python并行处理实战之如何使用ProcessPoolExecutor加速计算

《Python并行处理实战之如何使用ProcessPoolExecutor加速计算》Python提供了多种并行处理的方式,其中concurrent.futures模块的ProcessPoolExecu... 目录简介完整代码示例代码解释1. 导入必要的模块2. 定义处理函数3. 主函数4. 生成数字列表5.