目录

什么是数据挖掘分析

数据挖掘能够干什么

描述

评估

预测

分类

聚类

关联

数据挖掘的一般流程

业务理解阶段

数据理解阶段

数据准备阶段

建模阶段

评估阶段

部署阶段


什么是数据挖掘分析

数据挖掘是指从大量的数据中通过算法搜索隐藏于其中信息的过程---百度百科

从百科的定义中,有几个关键字标签:大量数据、算法、搜索、信息

对应到日常工作中,也就是:提出需要解决的问题、圈定数据范围、设计算法模型、找出解决办法

数据挖掘能够干什么

总得来说,数据挖掘能够解决以下几类问题:

描述

发现数据中隐藏的模式和趋势描述信息,侧重点,在于发现隐藏的描述信息

评估

用已有的数据,通过一定的分类或者回归方法,来估计出目标对象的值

如:通过建立收入与支出回归分析模型,来估计某一收入条件下,对应的支出能力,常用的方法有参数估计(点估计、置信区间估计、回归分析等)

预测

预测同评估非常类似,但评估侧重点在于针对已有统计情况内的估计属于现在,而预测则是在统计情况外的估计,属于未来。其方法同评估的方法类似。

分类

分类同评估类似,不同点在于评估是连续型变量,而分类是字典型变量,比如性别的分类:男、女

而连续型变量也在特定处理下,也可归纳为分类问题,比如将人均收入进行分段处理

聚类

聚类是将同一类对象,或相似的对象,划分到同一个大类中、不同类对象,相似度低的划分到不同大类中的方法,同分类相比,分类的前提需要确定目标对象的类别,而聚类则不需要提前分类。站在技术角度上看,分类是有监督、聚类是无监督,聚类的思想重点在于发现数据中包含的类别信息

关联

关联,即发现不同属性/信息之间的关联程度,经典的案例如啤酒与尿布

数据挖掘的一般流程

CRISP-DM(跨行业数据挖掘标准流程):

数据挖掘ppt 数据处理 数据挖掘剖析_数据挖掘ppt 数据处理

商业理解

明确要达到的业务目标,并将其转化为数据挖掘主题,同时制定相应的数据挖掘项目计划

考虑的问题有:业务的背景、发展情况、当前的问题、造成这些问题的原因、解决的办法/途径、预计达到的效果、投入成本、意外情况等

数据理解

数据理解即掌握当前阶段的各类数据情况,包括数据来源、数据指标含义、数据的质量、数据意义(业务影响)

从流程上来讲:数据收集、数据分析、数据质量评估

数据准备阶段

数据准备阶段即数据处理阶段,将第二步所收集到的数据,进行处理,按照数据挖掘的建模要去,将数据处理转换为对应的格式
从流程上来讲:数据筛选、数据清洗、数据构造

建模阶段

选择合适的建模方法,结合数据准备阶段的数据,进行模型训练,挖掘必要的数据信息,同时调整模型参数,优化模型性能

从流程上来讲:建立模型、训练模型、优化模型、保存模型

评估阶段

从业务角度和统计角度进行模型结论的评估,核验模型过程中的每一个环节指标,评判是否达到预期效果,评估阶段仍然是测试阶段,非正式环境中的评估

部署阶段

提交功能模块,或者数据挖掘分析报告,对于系统来讲,则是进行系统集成或上线