R语言--关联分析

标签：默认参数   次数   mil   list   pow   指标   its   str   min   

经典段子——“啤酒与尿布”，即很多年轻父亲在购买孩子尿布的时候，顺便为自己购买啤酒。关联分析中，最经典的算法Apriori算法在关联规则分析领域具有很大的影响力。

项集

这是一个集合的概念，每个事件即一个项，如啤酒是一个项，尿布是一个项，若干项的集合称为项集，如{尿布，啤酒}是一个二元项集。

关联规则

关联规则一般记为 \(X\rightarrow Y\) 的形式，X称为先决条件，右侧为相应的关联结果，用于表示出数据内隐含的关联性。如：关联规则 尿布 \(\rightarrow\) 啤酒成立，则表示购买尿布的消费者往往会购买啤酒，即两个商品的购买之间具有一定的关联性。
关联性的强度，由关联分析中的三个核心概念——支持度、置信度和提升度来控制和评价。
以例子说明：假设有10000个消费者，购买尿布的有1000人，购买啤酒的有2000人，购买面包的有500人，其中同时购买了尿布和啤酒的有800人，同时购买了尿布和面包的有100人。

支持度

支持度（Support）指在所有项集中{X，Y}出现的可能性，即项集中同时包含X和Y的概率，。
我们通过设定一个最小阈值来判断关联是否有意义，当概率大于或等于该最小阈值时有意义（有关联）。
在上面例子中P{尿布，啤酒} = 800/10000=8%，P{尿布，面包} = 100/10000=1%。我们设定最小阈值5%，即大于5%说明有关联。则尿布和啤酒有关联，而尿布和面包无关联。

置信度

置信度（Confidence）表示，在关联规则的先决条件X发生的条件下，关联结果Y发生的概率 \(P(Y|X)=\frac{P(XY)}{P(X)}\) 。
相似的我们也需要设定一个最小阈值，来判断概率关联是否有意义
上述例子中，即在购买尿布后，购买啤酒的概率。P(啤酒|尿布) = (800/10000)/(1000/10000) = 800/1000=80%。而在购买啤酒后再去购买尿布的概率为P(尿布|啤酒）=(800/10000)/(2000/10000)=800/2000=40%。假设我们以70%作为最小阈值，即强相关规则：尿布 \(\rightarrow\) 啤酒

提升度

提升度（lift），表示在含有X的条件下同时含有Y的可能性与没有X的条件下项集中含有Y的可能性之比 \(\frac{P(Y|X)}{P(Y)}\) 。提升度可以看作是置信度的一种互补指标。
如1000个消费者，购买茶叶的500人，这500人中有450人同时购买了咖啡，则 P(咖啡|茶叶) = (450/1000)/(500/1000)=450/500=90%，很高的置信度。而另外500个没有购买茶叶的人中，也有450人购买了咖啡，即1000人中有900人购买了咖啡。则P(咖啡|未购买茶叶)=(450/1000)/(500/1000)=450/500=90%。同样也是90%的置信度，所以购买咖啡和与购买茶叶之间，无关联相互独立。其提升度 \(\frac{P(咖啡|茶叶)}{P(咖啡)} = \frac{90\%}{900/1000} = 1\) 。同样的，上面例子中，\(\frac{P(啤酒|尿布)}{P(啤酒)} = \frac{80\%}{2000/10000} = 4\) 。
当提升度的值为1时表示X和Y相互独立，X对Y的发生没有提升作用。提升度的值>1时，且提升度值越大，表示X对Y的发生的提升作用越大，即关联性越大。

关联分析的基本算法步骤

• 筛选出满足支持度最小阈值的项集——频繁项集。
• 从频繁项集中筛选出满足最小置信度的所有规则。

R的实现

R中有两个专用于关联分析的包—— arules 和 arulesViz

• arules：用于关联规则的数字化生成，提供了Apriori和Eclat这两种挖掘关联规则和频繁项集算法的实现函数
• arulesViz：arules包的扩展包，提供了关联规则和频繁项集可视化技术，使得关联分析从算法运行到结果呈现一体化

Apriori算法之apriori函数

apriori(data, parameter = NULL, appearance = NULL, control = NULL)

参数：

• data：事务型数据或可以强制转化为事务型数据（如，二进制矩阵或数据框）的对象
• parameter：APparameter类（该类包含使用挖掘算法的挖掘参数，如最小支持度）或命名列表对象。
• appearance：对先决条件X(lhs)和关联结果Y(rhs)中具体包含哪些项进行限制。如，设置lhs=beer，将仅输出lhs中含有啤酒这一项的关联规则。无设置则默认所有项无限制出现
• control：控制函数性能，如可以设定对项集进行排序，是否向使用者报告进程等

实例

arules包中的inspect函数以可读形式显示关联规则和事务型数据，这里我们查看该事务数据中的前10条数据

library(arules)    # 导入arules包
data("Groceries")    # 导入arules包中的Groceries数据集
inspect(Groceries[1:10])    
# 结果，可以看到每次交易的相信情况
     items                                                                 
[1]  {citrus fruit,semi-finished bread,margarine,ready soups}              
[2]  {tropical fruit,yogurt,coffee}                                        
[3]  {whole milk}                                                          
[4]  {pip fruit,yogurt,cream cheese ,meat spreads}                         
[5]  {other vegetables,whole milk,condensed milk,long life bakery product} 
[6]  {whole milk,butter,yogurt,rice,abrasive cleaner}                      
[7]  {rolls/buns}                                                          
[8]  {other vegetables,UHT-milk,rolls/buns,bottled beer,liquor (appetizer)}
[9]  {pot plants}                                                          
[10] {whole milk,cereals}

summary(Groceries)    #    查看Groceries数据集基本信息

结果：

transactions as itemMatrix in sparse format with
 9835 rows (elements/itemsets/transactions) and
 169 columns (items) and a density of 0.02609146 

most frequent items:
      whole milk other vegetables       rolls/buns             soda           yogurt          (Other) 
            2513             1903             1809             1715             1372            34055 

element (itemset/transaction) length distribution:
sizes
   1    2    3    4    5    6    7    8    9   10   11   12   13   14   15   16   17   18   19   20   21   22   23   24   26   27 
2159 1643 1299 1005  855  645  545  438  350  246  182  117   78   77   55   46   29   14   14    9   11    4    6    1    1    1 
  28   29   32 
   1    3    1 

   Min. 1st Qu.  Median    Mean 3rd Qu.    Max. 
  1.000   2.000   3.000   4.409   6.000  32.000 

includes extended item information - examples:
       labels  level2           level1
1 frankfurter sausage meat and sausage
2     sausage sausage meat and sausage
3  liver loaf sausage meat and sausage

结果解读：

• 该数据集是一个超市一个月的真实交易记录，该数据表明一个月内：9835条交易记录，169种商品，则该矩阵是 \(9835*169\) 个单元格，如下图。密度：0.02609146 ，即非空的单元格（商品）为 \(9835*169*0.02609146=43367.01\) ，也就是说一个月平均卖出43367.01件商品
• 最热销的商品：全脂奶：2513件，蔬菜：1903件，面包卷：1809个，苏打：1715，酸奶：1372，其他：34055。合计43367，和前面密度吻合。
• 商品数量较次次数：交易中：1件商品2159次（即顾客一次购物中只购买1件商品的有2159次），2件的1643次。。。32件的1次。合计： \(2159+1643+。。。+3+1=9835，2159*1+1643*2+。。。+32*1=43367\)
• 单次购买商品数量，最少为1件，最多为32件，平均4.409件。。

arules包中的image函数可以可视化itemmatrix，即商品（169列），交易9835行构成的矩阵。该矩阵为稀疏矩阵，即元素为0（单次交易中未被购买的商品）远远多于1，且1分布不规律。选取Groceries数据集中的前10条作图

image(Groceries[1:10])

arules包中的itemFrequencyPlot函数可以画出item的频率图，以卖出频率最高的前20种商品作图

itemFrequencyPlot(Groceries,topN = 20)

arules包中的apriori函数，可以实现Apriori算法，生成符合条件的关联规则

rules1 <- apriori(Groceries)    # 使用默认参数，即最小支持度0.1，最小置信度0.8...
summary(rules1)    # 结果：set of 0 rules，即没有符合该条件的关联规则

调整参数，生成符合为最小支持度(minsup)：0.001，最小置信度(mincon)：0.5的关联规则。函数在生成关联规则时，还将输出函数生成关联规则时的各个细节。

• Apriori：Apriori算法
• Parameter specification：明支持度、置信度最小阈值等参数部分
• Algorithmic control：算法执行过程中相关参数的算法控制部分
• Apriori算法的基本信息和执行细节，如各步骤程序运行时间

查看生成的规则的基本情况

summary(rules1)
# 结果：
set of 5668 rules    # 总共生成了5668条关联规则

rule length distribution (lhs + rhs):sizes    # 关联规则item频数分布，lhs个数+rhs个数为3的规则有11条。这个用inspect函数查看生成的规则就特别明了
   2    3    4    5    6 
  11 1461 3211  939   46 

   Min. 1st Qu.  Median    Mean 3rd Qu.    Max.     # lhs个数+rhs个数的和最小为2，最大为6
   2.00    3.00    4.00    3.92    4.00    6.00 

summary of quality measures:     # 生成的关联规则中支持度、置信度、提升度等信息
    support           confidence          lift            count      
 Min.   :0.001017   Min.   :0.5000   Min.   : 1.957   Min.   : 10.0  
 1st Qu.:0.001118   1st Qu.:0.5455   1st Qu.: 2.464   1st Qu.: 11.0  
 Median :0.001322   Median :0.6000   Median : 2.899   Median : 13.0  
 Mean   :0.001668   Mean   :0.6250   Mean   : 3.262   Mean   : 16.4  
 3rd Qu.:0.001729   3rd Qu.:0.6842   3rd Qu.: 3.691   3rd Qu.: 17.0  
 Max.   :0.022267   Max.   :1.0000   Max.   :18.996   Max.   :219.0  

mining info:
      data ntransactions support confidence
 Groceries          9835   0.001        0.5

查看生成的规则中的前20条规则

inspect(rules1[1:20])
# 结果
     lhs                               rhs                support     confidence lift      count
[1]  {honey}                        => {whole milk}       0.001118454 0.7333333   2.870009 11   
[2]  {tidbits}                      => {rolls/buns}       0.001220132 0.5217391   2.836542 12   
[3]  {cocoa drinks}                 => {whole milk}       0.001321810 0.5909091   2.312611 13   
[4]  {pudding powder}               => {whole milk}       0.001321810 0.5652174   2.212062 13   
[5]  {cooking chocolate}            => {whole milk}       0.001321810 0.5200000   2.035097 13   
[6]  {cereals}                      => {whole milk}       0.003660397 0.6428571   2.515917 36   
[7]  {jam}                          => {whole milk}       0.002948653 0.5471698   2.141431 29   
[8]  {specialty cheese}             => {other vegetables} 0.004270463 0.5000000   2.584078 42   
[9]  {rice}                         => {other vegetables} 0.003965430 0.5200000   2.687441 39   
[10] {rice}                         => {whole milk}       0.004677173 0.6133333   2.400371 46   
[11] {baking powder}                => {whole milk}       0.009252669 0.5229885   2.046793 91   
[12] {liver loaf,yogurt}            => {whole milk}       0.001016777 0.6666667   2.609099 10   
[13] {tropical fruit,curd cheese}   => {other vegetables} 0.001016777 0.6666667   3.445437 10   
[14] {curd cheese,rolls/buns}       => {whole milk}       0.001016777 0.6250000   2.446031 10   
[15] {other vegetables,curd cheese} => {whole milk}       0.001220132 0.5714286   2.236371 12   
[16] {whole milk,curd cheese}       => {other vegetables} 0.001220132 0.5217391   2.696429 12   
[17] {other vegetables,cleaner}     => {whole milk}       0.001016777 0.6250000   2.446031 10   
[18] {liquor,red/blush wine}        => {bottled beer}     0.001931876 0.9047619  11.235269 19   
[19] {soda,liquor}                  => {bottled beer}     0.001220132 0.5714286   7.095960 12   
[20] {curd,cereals}                 => {whole milk}       0.001016777 0.9090909   3.557863 10 

因为生成的关联规则太多了，所以可以通过调整参数，如提高支持度（减少频繁项集的数量）/置信度（规则本身的可靠度）。这些参数调整过程：阈值调整太低，生成的关联规则数量会特别大。阈值调整太高，将会丢失一些有意义的关联规则。

rules1 <- apriori(Groceries,parameter = list(support = 0.005,confidence = 0.64)) # 提高minsup和mincon，只剩下4条满足条件的关联规则
inspect(rules1)
# 结果：
    lhs                                             rhs          support     confidence lift     count
[1] {butter,whipped/sour cream}                  => {whole milk} 0.006710727 0.6600000  2.583008 66   
[2] {pip fruit,whipped/sour cream}               => {whole milk} 0.005998983 0.6483516  2.537421 59   
[3] {pip fruit,root vegetables,other vegetables} => {whole milk} 0.005490595 0.6750000  2.641713 54   
[4] {tropical fruit,root vegetables,yogurt}      => {whole milk} 0.005693950 0.7000000  2.739554 56   

R语言--关联分析

标签：默认参数   次数   mil   list   pow   指标   its   str   min   

原文地址：https://www.cnblogs.com/sakura-d/p/11150656.html