天游体育彩票平台

4000-9696-28

本文对KNN算法做一个通俗易懂的介绍,值得收藏!

2020年07月02日 11:54供稿中心:北大青鸟市场部

摘要: 本文对KNN算法做一个通俗易懂的介绍,值得收藏!
古语云:“近水楼台先得月”,意思是临近在水边的楼台就能优先得到月亮的光芒,也比喻由于接近某些人或事物而抢先得到某种利益或便利。还有一句类似的话:“远亲不如近邻”,说的是人在有需要时,邻居比远处的亲戚更加能获得支持和帮助。在人工智能领域,有一种算法,非常贴近上述的形象比喻,这就是KNN算法,即K最近邻算法(K-NearestNeighbors,简称KNN),它是一个比较简单的机器学习算法,也是一个理论上比较成熟的、运用基于样本估计的最大后验概率规则的判别方法。本文对KNN算法做一个通俗易懂的介绍,并通过python进行编码示范,让读者朋友对该算法有较好的理解。
“牛”还是“羊”——理解KNN
K最近邻算法的比较贴近的一个比喻场景是:一个牧场里,放养着许多牛和羊,它们交叉聚集生活在一起,有时某只动物自己都可能分不清自己是牛还是羊。按照K最近邻算法,它判别自己是牛或者羊的依据是——“我”周边离“我”最近的类别(牛或者羊),且在一定范围内是数量最多的类别,那“我”就是这个类别。归结到K最近邻算法中,就是在一个数据集中,新的数据点离哪一类最近且一定范围内最多,就和这一类属于同一类。
其中,这个一定范围就是邻居们(Neighbors)的数量,也就是K最近邻算法的“K”这个字母代表的数量(最近邻的个数)。在人工智能领域,大家所熟知的scikit-learn库中,K最近邻算法的K值可以通过n_neighbors参数来调节的,默认值是5。
“近水楼台”——KNN预测实战
“近水楼台先得月”可以很好地诠释KNN算法,下面我们进行一个KNN算法的实际应用,以方便读者更好地理解KNN算法。
当今每届大学生在毕业前一年都非常关注研究生考试,能进入硕士级别进一步深造,也是大多数学生所渴望的,本文将模拟某年部分硕士研究生的入学考试数据集,通过python编程演练一个KNN算法机器学习的建模、训练、预测过程,展示KNN算法的效果。
一、了解数据集
我们采用的数据集包含如下字段:


其中,2、3、4、5,分别是研究生入学考试的基础课程、政治课程、外语课程、专业课程的分数。
6是考试学生的本科学校分类,分类粗略的分为三级:3-超一流(如清北)、2-双一流、1-普通高校。
7是考试学生的目标硕士高校学校的分类,分类粗略的分为四级:3-超一流(如清北)、2-双一流、1-普通高校、0-表示未被录取。
二、导入和查看、准备数据集
#载入numpy、pandas,
importnumpy as np
importpandas as pd
#使用pandas加载硕士研究生入学成绩信息数据集
data= pd.read_csv('Graduate_Admission.csv')
#显示以下数据集前5行
data.head()
输出运行结果如下:



#查看数据特征的统计信息
data.describe()
输出结果如下:



上表说明:这个数据集总共有500条记录,其中基础课程的最高分和最低分是125.7和67.1,政治课程的最高分和最低分是91.8和41.1,外语课的最高分和最低分是91.7和42.2,专业课程的最高分和最低分是133.4和29.2。
下面的代码针对数据集做预处理:
#丢弃掉SerialNo.这个特征
data.drop(['SerialNo'], axis = 1, inplace = True)
#把去掉预测目标Chanceof Class后的数据集作为训练数据集X
X= data.drop(['Chance of Class'], axis = 1)
#把预测目标赋值给y
y= data['Chance of Class'].values
三、生成训练集和测试集、使用KNN算法建模并评估模型分数
#导入数据集拆分工具
fromsklearn.model_selection import train_test_split
#将数据集拆分为训练数据集和测试数据集
X_train,X_test, y_train, y_test = train_test_split(X, y, random_state=0)
#导入用于分类的KNN模型
fromsklearn.neighbors import KNeighborsClassifier
Clf_KNN= KNeighborsClassifier()
#用模型对数据进行拟合
Clf_KNN.fit(X_train,y_train)
输出结果为:
KNeighborsClassifier(algorithm='auto',leaf_size=30, metric='minkowski', metric_params=None, n_jobs=None,n_neighbors=5, p=2, weights='uniform')
对模型评估:
#打印模型的得分
print('验证数据集得分:{:.2f}'.format(Clf_KNN.score(X_test,y_test)))
print('训练数据集得分:{:.2f}'.format(Clf_KNN.score(X_train,y_train)))
输出结果为:
验证数据集得分:0.81
训练数据集得分:0.87
可以看出模型的训练集和验证集的评估分值都在0.80分以上,模型训练的效果还算不错。
四、预测新成绩的分类
现在有A、B、C三位同学都进行了研究生入学模拟考试,他们的成绩和本科学校分别是:



我们可以利用上面步骤建立的KNN模型来预测一下,看看他们目前的考试成绩能够进入研究生高校的类别是哪些:是成功登上清华北大的超一流神圣殿堂或者普通高校,还是遗憾地铩羽而归。经过这样的预测后,相信他们也会有一定的信心或者更加强化自身的学习力度,力争能考入心仪的理想学校。
下面使用python代码利用前面已经建好的KNN模型,对三位同学的研究生成绩的入学结果进行预测:
#输入A同学的考试成绩和学校分类数据
X_A= np.array([[90.5, 80.6, 67.7, 80, 2]])
#使用.KNN模型对A同学的入学可能分类进行预测
pred_A= Clf_KNN.predict(X_A)
#输入B同学的考试成绩和学校分类数据
X_B= np.array([[120.5, 90.8, 76.5, 98, 3]])
#使用.KNN模型对B同学的入学可能分类进行预测
pred_B= Clf_KNN.predict(X_B)
#输入C同学的考试成绩和学校分类数据
X_C= np.array([[60.5, 50.2, 87.3, 65, 1]])
#使用.KNN模型对C同学的入学可能分类进行预测
pred_C= Clf_KNN.predict(X_C)
print("K最近邻算法模型预测分类结果如下:")
print("A同学的分类结果:{}".format(pred_A))
print("B同学的分类结果:{}".format(pred_B))
print("C同学的分类结果:{}".format(pred_C))
输出结果如下:
K最近邻算法模型预测分类结果如下:
A同学的分类结果:[1]
B同学的分类结果:[3]
C同学的分类结果:[0]
以上结果说明,如果按他们的模拟考试成绩,A同学分类预测结果为“1-普通高校”,即KNN模型预测他能够考入一般的普通高校的研究生;B同学分类预测结果为“3-超一流高校(如清北)”,即KNN模型预测他能进入清北超一流殿堂,值得庆祝;C同学分类预测结果为“0-未被录取”,很遗憾,KNN模型预测他成绩不理想,无法考上研究生。
通过这个数据集和例子可以得出一定的推论:考试成绩好且在超一流高校读本科的学生,更容易被超一流的高校(如清北)的硕士学位录取,超一流高校(如清北)的学生可以说是“近水楼台”,比其他学生更容易“先得月”,也比较好地诠释了KNN算法的工作原理。
结语
K最近邻算法(KNN)可以说是一个非常经典、原理十分容易理解的算法。本文利用KNN算法解决了一个研究生入学考试成绩的被录取高校的分类预测问题,其实,K最近算法不仅能够进行分类预测,也可以用于回归,原理和其用于分类是相同的。
另外,利用KNN算法进行机器学习的过程中,对K值(Neighbors的数量)的选择会对算法的结果产生重大影响。K值较小意味着只有与输入实例较近的训练实例才会对预测结果起作用,但容易发生过拟合;如果K值较大,优点是可以减少学习的估计误差,但缺点是学习的近似误差增大。有兴趣的读者朋友可以在上述Python代码中修改K值,看看是否能得到不同的预测结果。
关于我们
公司简介
发展历程
青鸟荣誉
联系我们
加入我们
青鸟课程
BCVE视频特效课程
BCUI全链路UI设计
BCSP软件开发专业课程
BCNT网络工程师
启蒙星IT工程师基础课程
学习客户端下载
青鸟优师
青鸟云课堂
微信 公众号 咨询 顶部 首页
官方新版意见收集

*

官方新版意见收集

提交成功,感谢您的反馈。

我们会认真阅读和考虑每个用户的反馈。

友情链接:极速赛车计划走势图  乐米彩票平台  三分快三  pk10赛车  快乐8官方下载  希望彩票平台  永恒彩票网站官网  极速三分赛车  快乐飞艇  加拿大28官网