本文主要是介绍《机器学习实战(Scala实现)》(二)——k-邻近算法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
算法流程
1.计算中的set中每一个点与Xt的距离。
2.按距离增序排。
3.选择距离最小的前k个点。
4.确定前k个点所在的label
的出现频率。
5.返回频率最高的label
作为测试的结果。
实现
python
# -*- coding: utf-8 -*-
'''
Created on 2017年3月18日@author: soso
'''
from numpy import *
import operatordef createDataSet():group = array([[1.0, 1.1], [1.0, 1.0], [0, 0], [0, 0.1]])labels = ['A', 'A', 'B', 'B']return group, labelsdef classify0(inX, dataSet, labels, k):dataSetSize = dataSet.shape[0]# 函数形式: tile(A,rep)# 功能:重复A的各个维度# 参数类型:# - A: Array类的都可以# - rep:A沿着各个维度重复的次数diffMat = tile(inX, (dataSetSize, 1)) - dataSetsqDiffMat = diffMat ** 2# 当加入axis=1以后就是将一个矩阵的每一行向量相加sqDistances = sqDiffMat.sum(axis=1)distance = sqDistances * 0.5# argsort函数返回的是数组值从小到大的索引值sortedDistIndicies = distance.argsort()classCount = {}for i in range(k):votelabel = labels[sortedDistIndicies[i]]classCount[votelabel] = classCount.get(votelabel, 0) + 1sortedClassCount = sorted(classCount.iteritems(), key=operator.itemgetter(1), reverse=True)return sortedClassCount[0][0]
Scala
import scala.collection.mutable.Mapobject kNN {def getGroup(): Array[Array[Double]] = {return Array(Array(1.0, 1.1), Array(1.0, 1.0), Array(0, 0), Array(0, 0.1))}def getLabels(): Array[Char] = {return Array('A', 'A', 'B', 'B')}def classify0(inX: Array[Double], dataSet: Array[Array[Double]], labels: Array[Char], k: Int): Char = {val dataSetSize = dataSet.lengthval sortedDisIndicies = dataSet.map { x =>val v1 = x(0) - inX(0)val v2 = x(1) - inX(1)v1 * v1 + v2 * v2}.zipWithIndex.sortBy(f => f._1).map(f => f._2)var classsCount: Map[Char, Int] = Map.emptyfor (i <- 0 to k - 1) {val voteIlabel = labels(sortedDisIndicies(i))classsCount(voteIlabel) = classsCount.getOrElse(voteIlabel, 0) + 1}classsCount.toArray.sortBy(f => -f._2).head._1}def main(args: Array[String]) {println(classify0(Array(0, 0), getGroup(), getLabels(), 3))}
}
这篇关于《机器学习实战(Scala实现)》(二)——k-邻近算法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!