1.理解分类与监督学习、聚类与无监督学习。
简述分类与聚类的联系与区别。
联系:都是对数据进行划分的方法
区别:分类就是“贴标签”,在事先已有的类中按这些类的性质来进行划分,要做的就是将每一条记录分别属于哪一类标记出来,常用算法KNN,是一种有监督学习;
聚类是在事先没有类,没有训练条件的情况下,根据数据相似性来把样本划分为若干类,常用算法k-means算法,是一种无监督学习。
简述什么是监督学习与无监督学习。
监督学习:监督学习是从标记的训练数据来推断一个功能的机器学习任务。就是在有样本的情况下,根据样本属性来判断某数据属于什么类型。监督学习的算法有神经网络算法、决策树学习算法,主要是用于分类、回归。
无监督学习:根据类别未知(没有被标记)的训练样本解决模式识别中的各种问题,称之为无监督学习。就是在无样本的情况下,根据相似性来判断某数据属于什么类型。无监督学习里典型例子是聚类、降维。
2.朴素贝叶斯分类算法 实例
利用关于心脏病患者的临床历史数据集,建立朴素贝叶斯心脏病分类模型。
有六个分类变量(分类因子):性别,年龄、KILLP评分、饮酒、吸烟、住院天数
目标分类变量疾病:
–心梗
–不稳定性心绞痛
新的实例:–(性别=‘男’,年龄<70, KILLP=‘I',饮酒=‘是’,吸烟≈‘是”,住院天数<7)
最可能是哪个疾病?
上传手工演算过程。
| 性别 | 年龄 | KILLP | 饮酒 | 吸烟 | 住院天数 | 疾病 |
1 | 男 | >80 | 1 | 是 | 是 | 7-14 | 心梗 |
2 | 女 | 70-80 | 2 | 否 | 是 | <7 | 心梗 |
3 | 女 | 70-81 | 1 | 否 | 否 | <7 | 不稳定性心绞痛 |
4 | 女 | <70 | 1 | 否 | 是 | >14 | 心梗 |
5 | 男 | 70-80 | 2 | 是 | 是 | 7-14 | 心梗 |
6 | 女 | >80 | 2 | 否 | 否 | 7-14 | 心梗 |
7 | 男 | 70-80 | 1 | 否 | 否 | 7-14 | 心梗 |
8 | 女 | 70-80 | 2 | 否 | 否 | 7-14 | 心梗 |
9 | 女 | 70-80 | 1 | 否 | 否 | <7 | 心梗 |
10 | 男 | <70 | 1 | 否 | 否 | 7-14 | 心梗 |
11 | 女 | >80 | 3 | 否 | 是 | <7 | 心梗 |
12 | 女 | 70-80 | 1 | 否 | 是 | 7-14 | 心梗 |
13 | 女 | >80 | 3 | 否 | 是 | 7-14 | 不稳定性心绞痛 |
14 | 男 | 70-80 | 3 | 是 | 是 | >14 | 不稳定性心绞痛 |
15 | 女 | <70 | 3 | 否 | 否 | <7 | 心梗 |
16 | 男 | 70-80 | 1 | 否 | 否 | >14 | 心梗 |
17 | 男 | <70 | 1 | 是 | 是 | 7-14 | 心梗 |
18 | 女 | 70-80 | 1 | 否 | 否 | >14 | 心梗 |
19 | 男 | 70-80 | 2 | 否 | 否 | 7-14 | 心梗 |
20 | 女 | <70 | 3 | 否 | 否 | <7 | 不稳定性心绞痛 |
3.使用朴素贝叶斯模型对iris数据集进行花分类。
尝试使用3种不同类型的朴素贝叶斯:
- 高斯分布型
- 多项式型
- 伯努利型
并使用sklearn.model_selection.cross_val_score(),对各模型进行交叉验证。
代码截图如下:
运行结果如下:
源代码如下:
from sklearn.datasets import load_iris
from sklearn.naive_bayes import GaussianNB #高斯分布型
from sklearn.naive_bayes import MultinomialNB #多项式型
from sklearn.naive_bayes import BernoulliNB #伯努利型
from sklearn.model_selection import cross_val_score #交叉验证
iris=load_iris()#提取数据
#高斯分布型
gnb=GaussianNB() #建立模型
gnb.fit(iris.data,iris.target) #训练模型
y_gnb = gnb.predict(iris.data) #分类预测
print("高斯分布型预测结果:",y_gnb)
#多项式型
mnb=MultinomialNB() #建立模型
mnb.fit(iris.data,iris.target) #训练模型
y_mnb = mnb.predict(iris.data) #分类预测
print("多项式型预测结果:",y_mnb)
#伯努利型
bnb=BernoulliNB() #建立模型
bnb.fit(iris.data,iris.target) #训练模型
y_bnb = bnb.predict(iris.data) #分类预测
print("伯努利型预测结果:",y_bnb)
#对各模型进行交叉验证
g_scores=cross_val_score(gnb,iris.data,iris.target,cv=10)
m_scores=cross_val_score(mnb,iris.data,iris.target,cv=10)
b_scores=cross_val_score(bnb,iris.data,iris.target,cv=10)
print("高斯分布型朴素贝叶斯模型的平均精度:%.6f\n" % g_scores.mean())
print("多项式型朴素贝叶斯模型的平均精度:%.6f\n" % m_scores.mean())
print("伯努利型朴素贝叶斯模型的平均精度:%.6f\n" % b_scores.mean())