【阿旭机器学习实战】系列文章主要介绍机器学习的各种算法模型及其实战案例,欢迎点赞,关注共同学习交流。

本文​​使用PCA降维的方式对图片进行降维​​​之后,​​使用不同的分类模型进行训练预测​​,并选取预测结果最好的模型进行建模,然后对位置图片使用模型进行预测。

对于PCA降维的介绍,请参考之前的博文​​【阿旭机器学习实战】【22】特征降维实战---主成分分析(PCA)与线性判别分析算法(LDA)​

目录

  • ​​PCA特征降维实战---人脸识别​​
  • ​​问题描述--人脸识别​​
  • ​​1. 导入数据并查看数据​​
  • ​​2. 划分训练数据和测试数据​​
  • ​​3. PCA降维​​
  • ​​4. 用监督学习相关算法,来降维后的特征进行训练并预测​​
  • ​​4.1对各个分类模型算法进行交叉验证,寻求最好的那个模型​​
  • ​​4.2 预测结果展示​​
  • ​​4.3 下载照片并使用模型进行预测​​

PCA特征降维实战—人脸识别

问题描述–人脸识别

通过训练一批人的人脸数据,然后从其他地方获取一种图片让模型认识这个图片代表的谁?

​判断人脸需要用监督学习,人脸的维度过高,监督学习判断的时候就会出现两个问题:算法效率会非常低和算方法的精准度也会降低。​

​我们在进行监督学习之前要进行特征降维,然后使用降维后的特征进行建模,以提高算法效率与准确度。​

1. 导入数据并查看数据

import numpy as np
import matplotlib.pyplot as plt
%matplotlib inline
from sklearn import datasets
# 导入人脸数据
faces = datasets.fetch_lfw_people(min_faces_per_person=70,
slice_=(slice(0,250,None),slice(0,250,None)),resize=1)
# 这个函数首先会去本地缓存地址中去加载数据,如果没有缓存,去datasets中加载并缓存到本地
dir(faces)#查看数据的属性
['DESCR', 'data', 'images', 'target', 'target_names']
# 各个属性的维度
print(faces.data.shape)
print(faces.images.shape)
print(faces.target.shape)
print(faces.target_names.shape)
(1288, 62500)
(1288, 250, 250)
(1288,)
(7,)

从上面数据可以看出有1288条数据,图片大小为250 * 250,像素点个数为 250 * 250 = 62500,也就是​​特征有62500个​​,一共有7个类型的标签(人)。

data = faces.data
target = faces.target
target_names = faces.target_names
imgs = faces.images
# 查看7个人的名字
target_names
array(['Ariel Sharon', 'Colin Powell', 'Donald Rumsfeld', 'George W Bush',
'Gerhard Schroeder', 'Hugo Chavez', 'Tony Blair'], dtype='<U17')
plt.imshow(imgs[100],cmap="gray")
<matplotlib.image.AxesImage at 0x1fbb98e0c18>

2. 划分训练数据和测试数据

from sklearn.model_selection import train_test_split,cross_val_score
x_train,x_test,y_train,y_test = train_test_split(data,target,test_size=0.05)

3. PCA降维

from sklearn.decomposition import PCA
# 提取300个特征数据
pca = PCA(n_components=300)
# 训练
pca.fit(x_train)
PCA(copy=True, iterated_power='auto', n_components=300, random_state=None,
svd_solver='auto', tol=0.0, whiten=False)
# 将训练特征转换到PCA特征空间
x_train_pca = pca.transform(x_train)
x_train.shape,x_train_pca.shape
((1223, 62500), (1223, 300))

我们可以看到,​​特征数目从62500直接减少为了300​​。直接减少了好几个量级。

x_test.shape
(65, 62500)
# 对测试特征进行降维
x_test_pca = pca.transform(x_test)# 【注意】这里不需要再训练,直接转化

4. 用监督学习相关算法,来降维后的特征进行训练并预测

from sklearn.neighbors import KNeighborsClassifier
from sklearn.linear_model import SGDClassifier
from sklearn.svm import SVC
from sklearn.tree import DecisionTreeClassifier
from sklearn.naive_bayes import GaussianNB

4.1对各个分类模型算法进行交叉验证,寻求最好的那个模型

# KNN模型
knn = KNeighborsClassifier()
cross_val_score(knn,x_train_pca,y_train)
array([0.46585366, 0.47911548, 0.44581281])
# SGD模型
sgd = SGDClassifier()
cross_val_score(sgd,x_train_pca,y_train)
array([0.53170732, 0.51351351, 0.49014778])
# 决策树模型
dt = DecisionTreeClassifier()
cross_val_score(dt,x_train_pca,y_train)
array([0.27560976, 0.28501229, 0.29802956])
# 朴素贝叶斯模型
g_NB = GaussianNB()
cross_val_score(g_NB,x_train_pca,y_train)
array([0.50731707, 0.47911548, 0.46305419])
# SVC模型
svc = SVC(kernel="linear")
cross_val_score(svc,x_train_pca,y_train)
array([0.77073171, 0.77641278, 0.74137931])

经过上面的交叉验证发现,​​SVC的linear核函数模型的预测效果最好​​,下面使用SVC进行建模。

svc.fit(x_train_pca,y_train)
SVC(C=1.0, cache_size=200, class_weight=None, coef0=0.0,
decision_function_shape='ovr', degree=3, gamma='auto', kernel='linear',
max_iter=-1, probability=False, random_state=None, shrinking=True,
tol=0.001, verbose=False)
y_ = svc.predict(x_test_pca)
y_,y_test
(array([6, 6, 3, 3, 2, 1, 1, 6, 3, 3, 1, 3, 3, 3, 1, 4, 3, 4, 3, 6, 0, 1,
6, 3, 2, 4, 3, 2, 3, 1, 3, 3, 3, 6, 1, 4, 1, 3, 1, 3, 3, 6, 5, 2,
4, 3, 3, 1, 2, 3, 3, 0, 6, 6, 6, 0, 4, 6, 3, 3, 0, 6, 6, 4, 0],
dtype=int64),
array([4, 6, 3, 3, 3, 1, 1, 6, 3, 3, 1, 3, 3, 3, 1, 4, 3, 4, 1, 4, 0, 1,
6, 3, 2, 5, 3, 3, 3, 1, 3, 3, 3, 6, 1, 4, 1, 3, 1, 3, 3, 6, 5, 0,
4, 3, 6, 3, 2, 2, 3, 0, 6, 6, 6, 0, 4, 4, 2, 3, 0, 6, 6, 4, 0],
dtype=int64))
svc.score(x_test_pca,y_test)
0.8153846153846154
from sklearn.metrics import classification_report
# 模型结果评估
print(classification_report(y_,y_test))
precision    recall  f1-score   support

0 0.83 1.00 0.91 5
1 0.90 0.90 0.90 10
2 0.50 0.40 0.44 5
3 0.87 0.83 0.85 24
4 0.67 0.86 0.75 7
5 0.50 1.00 0.67 1
6 0.91 0.77 0.83 13

avg / total 0.82 0.82 0.81 65


4.2 预测结果展示

画出65个人的人脸图片,并且标注真正是谁,预测的名字是谁

plt.figure(figsize=(5*3,13*4))

for i in range(65):
axes = plt.subplot(13,5,i+1)
axes.imshow(x_test[i].reshape((250,250)),cmap="gray")
axes.axis("off")
axes.set_title("True:%s\nPre:%s"%(target_names[y_test[i]],target_names[y_[i]]))

4.3 下载照片并使用模型进行预测

从网上下载一个Bush或者其他人的图片,然后处理成符合我们规定灰度级图片,用我们模型来预测该图片是谁

bush = plt.imread("./data/bush.jpg")
bush.shape
(625, 500, 3)
plt.imshow(bush)

把图片灰度化

bush1 = np.dot(bush,[0.299,0.587,0.114])
plt.imshow(bush1,cmap="gray")
# 对行进行切片,将图片大小变为250 * 250,才可以用上述模型进行预测
bush2 = bush1[50:550][::2,::2]
plt.imshow(bush2)
# 使用PCA对图片进行特征转换
bush_pca = pca.transform(bush2.reshape((1,-1)))
name = svc.predict(bush_pca)
target_names[name]
array(['George W Bush'], dtype='<U17')

模型对照片的预测结果为George W Bush,与实际情况一致。

欢迎关注我的公众号:​​阿旭算法与机器学习​​​,共同学习交流。
更多干货内容持续更新中…