目录
什么是数据挖掘分析
数据挖掘能够干什么
描述
评估
预测
分类
聚类
关联
数据挖掘的一般流程
业务理解阶段
数据理解阶段
数据准备阶段
建模阶段
评估阶段
部署阶段
什么是数据挖掘分析
数据挖掘是指从大量的数据中通过算法搜索隐藏于其中信息的过程---百度百科
从百科的定义中,有几个关键字标签:大量数据、算法、搜索、信息
对应到日常工作中,也就是:提出需要解决的问题、圈定数据范围、设计算法模型、找出解决办法
数据挖掘能够干什么
总得来说,数据挖掘能够解决以下几类问题:
描述
发现数据中隐藏的模式和趋势描述信息,侧重点,在于发现隐藏的描述信息
评估
用已有的数据,通过一定的分类或者回归方法,来估计出目标对象的值
如:通过建立收入与支出回归分析模型,来估计某一收入条件下,对应的支出能力,常用的方法有参数估计(点估计、置信区间估计、回归分析等)
预测
预测同评估非常类似,但评估侧重点在于针对已有统计情况内的估计属于现在,而预测则是在统计情况外的估计,属于未来。其方法同评估的方法类似。
分类
分类同评估类似,不同点在于评估是连续型变量,而分类是字典型变量,比如性别的分类:男、女
而连续型变量也在特定处理下,也可归纳为分类问题,比如将人均收入进行分段处理
聚类
聚类是将同一类对象,或相似的对象,划分到同一个大类中、不同类对象,相似度低的划分到不同大类中的方法,同分类相比,分类的前提需要确定目标对象的类别,而聚类则不需要提前分类。站在技术角度上看,分类是有监督、聚类是无监督,聚类的思想重点在于发现数据中包含的类别信息
关联
关联,即发现不同属性/信息之间的关联程度,经典的案例如啤酒与尿布
数据挖掘的一般流程
CRISP-DM(跨行业数据挖掘标准流程):
商业理解
明确要达到的业务目标,并将其转化为数据挖掘主题,同时制定相应的数据挖掘项目计划
考虑的问题有:业务的背景、发展情况、当前的问题、造成这些问题的原因、解决的办法/途径、预计达到的效果、投入成本、意外情况等
数据理解
数据理解即掌握当前阶段的各类数据情况,包括数据来源、数据指标含义、数据的质量、数据意义(业务影响)
从流程上来讲:数据收集、数据分析、数据质量评估
数据准备阶段
数据准备阶段即数据处理阶段,将第二步所收集到的数据,进行处理,按照数据挖掘的建模要去,将数据处理转换为对应的格式
从流程上来讲:数据筛选、数据清洗、数据构造
建模阶段
选择合适的建模方法,结合数据准备阶段的数据,进行模型训练,挖掘必要的数据信息,同时调整模型参数,优化模型性能
从流程上来讲:建立模型、训练模型、优化模型、保存模型
评估阶段
从业务角度和统计角度进行模型结论的评估,核验模型过程中的每一个环节指标,评判是否达到预期效果,评估阶段仍然是测试阶段,非正式环境中的评估
部署阶段
提交功能模块,或者数据挖掘分析报告,对于系统来讲,则是进行系统集成或上线