关联规则

        大家可能听说过用于宣传数据挖掘的一个案例:啤酒和尿布；据说是沃尔玛超市在分析顾客的购买记录时，发现许多客户购买啤酒的同时也会购买婴儿尿布，于是超市调整了啤酒和尿布的货架摆放，让这两个品类摆放在一起；结果这两个品类的销量都有明显的增长；分析原因是很多刚生小孩的男士在购买的啤酒时，会顺手带一些婴幼儿用品。

不论这个案例是否是真实的，案例中分析顾客购买记录的方式就是关联规则分析法Association Rules。

关联规则分析也被称为购物篮分析，用于分析数据集各项之间的关联关系。

关联规则基本概念

项集：item的集合，如集合{牛奶、麦片、糖}是一个3项集，可以认为是购买记录里物品的集合。

频繁项集：顾名思义就是频繁出现的item项的集合。如何定义频繁呢？用比例来判定，关联规则中采用支持度和置信度两个概念来计算比例值

支持度：共同出现的项在整体项中的比例。以购买记录为例子，购买记录100条，如果商品A和B同时出现50条购买记录（即同时购买A和B的记录有50），那边A和B这个2项集的支持度为50%

利用python实现Apriori关联规则算法_人工智能

置信度：购买A后再购买B的条件概率，根据贝叶斯公式，可如下表示：

利用python实现Apriori关联规则算法_数据挖掘_02

 提升度：为了判断产生规则的实际价值，即使用规则后商品出现的次数是否高于商品单独出现的评率，提升度和衡量购买X对购买Y的概率的提升作用。如下公式可见，如果X和Y相互独立那么提升度为1，提升度越大，说明X->Y的关联性越强

利用python实现Apriori关联规则算法_关联规则_03

关联规则Apriori算法

1. Apriori算法的基本思想
对数据集进行多次扫描，第一次扫描得到频繁1-项集的集合L1，第k次扫描首先利用第k-1次扫描的结果Lk-1产生候选k-项集Ck，在扫描过程中计算Ck的支持度，在扫描结束后计算频繁k-项集Lk，算法当候选k-项集的集合Ck为空的时候结束。
2. Apriori算法产生频繁项集的过程
（1）连接步
（2）剪枝步

3.Apriori算法的主要步骤
（1） 扫描全部数据，产生候选1-项集的集合C1
（2） 根据最小支持度，由候选1-项集的集合C1产生频繁1-项集的集合L1
（3） 对k>1，重复步骤（4）（5）（6）
（4） 由Lk执行连接和剪枝操作，产生候选（k+1）-项集Ck+1
（5） 根据最小支持度，由候选（k+1）-项集的集合Ck+1产生频繁（k+1）-项集的集合Lk+1
（6） 若L不为空集，则k = k+1，跳往步骤（4），否则跳往步骤（7）
（7） 根据最小置信度，由频繁项集产生强关联规则

Apriori算法是经典的关联规则算法。Apriori算法的目标是找到最大的K项频繁集。Apriori算法从寻找1项集开始，通过最小支持度阈值进行剪枝，依次寻找2项集，3项集直到没有更过项集为止。

代码实现 

本次算法实现我们借助了mlxtend第三方包，pip install mlxtend安装一下即可

编译工具:jupyter notebook

首先导入本次项目用到的第三方包：

import pandas as pd
from mlxtend.frequent_patterns import apriori
from mlxtend.frequent_patterns import association_rules
import warnings
warnings.filterwarnings('ignore')

接下来我将使用两个小案例给大家示范如何使用关联规则算法

案例一

准备数据

order = {'001': '面包，黄油，尿布，啤酒', 
        '002': '咖啡，糖，小甜饼，鲑鱼，啤酒',
        '003': '面包，黄油，咖啡，尿布，啤酒，鸡蛋', 
        '004': '面包，黄油，鲑鱼，鸡',
        '005': '鸡蛋，面包，黄油', 
        '006': '鲑鱼，尿布，啤酒',
        '007': '面包，茶，糖鸡蛋', 
        '008': '咖啡，糖，鸡，鸡蛋',
        '009': '面包，尿布，啤酒，盐', 
        '010': '茶，鸡蛋，小甜饼，尿布，啤酒'}
data_set = []
id_set= []
shopping_basket = {}
for key in order:
    item = order[key].split('，')
    id_set.append(key)
    data_set.append(item)
shopping_basket['ID'] = id_set
shopping_basket['Basket'] = data_set
shopping_basket

利用python实现Apriori关联规则算法_数据挖掘_04

将数据转换为DataFrame类型

data = pd.DataFrame(shopping_basket)
data

 

利用python实现Apriori关联规则算法_ci_05

接着我们需要将Basket的数据转换为one-hot（0，1）编码

这一步主要就是对数据的ID和Basket进行划分处理，最后进行合并

data_id = data.drop('Basket',1)
data_basket = data['Basket'].str.join(',')
data_basket = data_basket.str.get_dummies(',')
new_data = data_id.join(data_basket)
new_data

利用python实现Apriori关联规则算法_算法_06

 调用apriori算法

apriori()中min_support也就是最小支持度默认为0.5，所以我们要修改的话直接修改这个值

frequent_itemsets = apriori(new_data.drop('ID',1),min_support=0.5,use_colnames=True)
frequent_itemsets

利用python实现Apriori关联规则算法_数据挖掘_07

 从结果中，我们发现在二项集中，出现了尿布和啤酒，说明尿布和啤酒的关联性很大。

接着我们查看其具体的关联规则

association_rules(frequent_itemsets,metric='lift')

利用python实现Apriori关联规则算法_ci_08

我们看出尿布和啤酒的提升度值也很大（大于1） ，更一步说明了尿布和啤酒的关联性很强，所有在销售的时候，应该将其放在一起售卖，或者适当增加一下促销方式。

案例二

步骤跟案例一相似

准备数据

shopping_backet = {'ID':[1,2,3,4,5,6],
                    'Basket':[['Beer','Diaper','Pretzels','Chips','Aspirin'],
                              ['Diaper','Beer','Chips','Lotion','Juice','BabyFood','Milk'],
                              ['Soda','Chips','Milk'],
                              ['Soup','Beer','Diaper','Milk','IceCream'],
                              ['Soda','Coffee','Milk','Bread'],
                              ['Beer','Chips']
                              ]
                    }
data = pd.DataFrame(shopping_backet)
data

利用python实现Apriori关联规则算法_人工智能_09

将数据转换为apriori算法要求的数据类型

data_id = data.drop('Basket',1)
data_basket = data['Basket'].str.join(',')
data_basket = data_basket.str.get_dummies(',')
new_data = data_id.join(data_basket)
new_data

利用python实现Apriori关联规则算法_算法_10

调用apriori算法

frequent_itemsets = apriori(new_data.drop('ID',1),min_support=0.5,use_colnames=True)
frequent_itemsets

 

利用python实现Apriori关联规则算法_关联规则_11

 如果光考虑support支持度，那么[Beer, Chips]和[Diaper, Beer]都是很频繁的，那么哪一种组合更相关呢？

association_rules(frequent_itemsets,metric='lift')

利用python实现Apriori关联规则算法_关联规则_12

 显然[Diaper, Beer]的lift值更大，说明这个组合更相关