一.概述
- One-Hot编码,又称为一位有效编码,主要是采用N位状态寄存器来对N个状态进行编码,每个状态都由他独立的寄存器位,并且在任意时候只有一位有效。
- One-Hot编码是分类变量作为二进制向量的表示。这首先要求将分类值映射到整数值。然后,每个整数值被表示为二进制向量,除了整数的索引之外,它都是零值,它被标记为1。
- 独热编码(哑变量 dummy variable)是因为大部分算法是基于向量空间中的度量来进行计算的,为了使非偏序关系的变量取值不具有偏序性,并且到圆点是等距的。使用one-hot编码,将离散特征的取值扩展到了欧式空间,离散特征的某个取值就对应欧式空间的某个点。将离散型特征使用one-hot编码,会让特征之间的距离计算更加合理。离散特征进行one-hot编码后,编码后的特征,其实每一维度的特征都可以看做是连续的特征。就可以跟对连续型特征的归一化方法一样,对每一维特征进行归一化。比如归一化到[-1,1]或归一化到均值为0,方差为1。
二.tensorflow实现
#假设现在我们要对5张手写数字进行分类,这些数字的标签labels的范围是0~9,形成(5, )的行向量,为####
#[5,4,3,8,7]。
labels = [5,4,3,8,7]
NUM_CLASSES = 10
batch_size = tf.size(labels)
#labels表示图片的标签,5张图片有5个标签。Batch_size=5
labels = tf.expand_dims(labels, 1)
#扩充维数,将(5,)扩充为(5,1),里面的内容不变:[[5],[4],[3],[8],[7]]
indices = tf.expand_dims(tf.range(0, batch_size, 1), 1)
#扩充维数。由于batch_size=(5, ),循环之后生成5*1的矩阵:[[0],[1],[2],[3],[4]]
concated = tf.concat(1, [indices, labels])
#将indices和labels在第二维连接,形成5*2的矩阵:[[0,5],[1,4],[2,3],[3,8],[4,7]]
onehot_labels = tf.sparse_to_dense(
concated, tf.stack([batch_size, NUM_CLASSES]), 1.0, 0.0)
#转化为独热编码。
#tf.pack()将两个向量打包成一个。由于batch_size=5和NUM_CLASSES=10都是数,合并为行向量:[5,10]
#tf.sparse_to_dense()将稀疏矩阵转密集矩阵。stack()函数指定生成的矩阵的shape为5*10,concated指定更换值的坐标,1.0表示将concated指定坐标的值更换为1,0.0表示其余坐标值置0.
三.python+pandas实现
import pandas as pd
print("---初始数据集---\n")
data=pd.DataFrame([
['red','class1','yi',0.233333],
['green','class2','er',0.654321],
['blue','class1','san',0.123456]])
data.columns=['color','class','id','value']
print(data)
print("---映射后数据集---\n")
mapp1={
'yi':11,
'er':22,
'san':33}
data['id']=data['id'].map(mapp1)
mapp2={label:idx for idx,label in enumerate(set(data['class']))}
data['class']=data['class'].map(mapp2)
print(data)
print("---「one-hot」后数据集---\n")
data=pd.get_dummies(data)
print(data)