.第二章 大数据技术概述
2.1 大数据技术的产生
2005年Hadoop项目诞生。 Hadoop其最初只是雅虎公司用来解决网页搜索问题的一个项目，后来因其技术的高效性，被Apache Software Foundation公司引入并成为开源应用。
Hadoop本身不是一个产品，而是由多个软件产品组成的一个生态系统，这些软件产品共同实现全面功能和灵活的大数据分析。从技术上看，Hadoop由两项关键服务构成：采用Hadoop分布式文件系统（HDFS）的可靠数据存储服务，以及利用一种叫做MapReduce技术的高性能并行数据处理服务。这两项服务的共同目标是，提供一个使对结构化和复杂数据的快速、可靠分析变为现实的基础。
2.1.1大数据的基本概念
大数据(big data)，或称巨量资料，指的是所涉及的资料量规模巨大到无法透过目前主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。大数据的4V特点:Volume、Velocity、Variety、Veracity。
大数据技术的产生首先源于互联网企业对于日益增长的网络数据分析的需求。
2.大数据的可用性及衍生价值
进入IT时代以来，全人类积累了海量的数据，这些数据仍在不断急速增加，这带来两个方面的巨变：一方面，在过去没有海量的数据积累的时代无法实现的应用现在终于实现。
2.1.2大数据产生的原因
1.大数据的产生
大数据技术的产生首先源于互联网企业对于日益增长的网络数据分析的需求，20世纪80年代的典型代表市Yahoo的“分类目录”搜索数据库；20世纪90年代的典型代表市Google，它开始运用算数分析用户的实际需求，而且创造新的需求。因为此时Web2.0的出现使人们从信息的被动接收者变成了主动创造者。
基于上述状况2006年，广大个人用户的数据量迈进了“TB”时代。
2.大数据的可用性及衍生价值
（1）数据的可用性
用以分析的数据越全面，分析的结果就越接近于真实，就更具可用性。数据可用性主要包含高质量数据获取与整合的方法，大数据可用性理论体系的建立，弱可用数据的近似计算与数据挖掘，数据一致性的描述问题，一致性错误的自动检测问题，实体完整性的自动修复问题，自动检测实体同一性错误的问题，半结构化、非结构化数据的实体识别问题等方面。
（2）数据的复杂性
目前，85%的数据属于社交网络、物联网、电子商务等产生的非结构化和半结构化数据。非结构化数据是数据结构不规则或不完整、没有预定义的数据模型、不方便用二维逻辑数据库来表现的数据。包括所有格式的办公文档、文本、图片、图像和音频/视频信息等。半结构化数据是介于完全结构化数据和完全无结构的数据之间的数据，XML、HTML文档属于半结构化数据，它是自描述的，数据的结构和内容混在一起，没有明显的区分。
2.1.3大数据概念的提出
由于海量非结构化、半结构化数据的出现，数据已没有办法在可容忍的时间内，使用常规软件方法完成存储、管理和处理任务。2008年《Nature》杂志推出了“大数据”专辑，引发了学术界和产业界的关注。数据成为科学研究的对象和工具，业界开始基于数据来思考、设计和实施科学研究。数据不再仅仅是科学研究的结果，而且变成科学研究的基础。
2.1.4第四范式——大数据对科学研究产生的影响
2007年，已故的图灵奖得主吉姆格雷提出了数据密集型科研“第四范式”。他将大数据科研从第三范式，即计算机模拟中分离出来，独立作为一种科研范式，单独分离出来的原因是大数据的研究方式不同于基于数学模型的传统研究方式。科学研究的四个范式如图：
2.1.5大数据与云计算的关系
云计算与大数据是一对相辅相成的概念，它们描述了面向数据时代信息技术的两个方面，云计算侧重于提供资源和应用的网络化交付方法，大数据侧重于应对巨大的数据量所带来的技术挑战。
云计算的核心式业务模式，其本质是数据处理技术。数据是资产，云计算为数据资产提供了存储、访问的场所和计算能力，即云计算更偏重大数据的存储和计算，以及提供云计算服务，运行云应用。但是云计算缺乏盘活数据资产的能力，从数据中挖掘截至核对数据预测性分析，为国家治理、企业决策乃至个人生活提供服务，这是大数据的核心作用。云计算是基础设施架构，大数据是思想方法，大数据技术讲帮助人们从大体量、高度复杂的数据中分析、挖掘信息，从而发现价值和预测趋势。
2.1.5大数据的4V特征
目前来说，大数据的特征还存在一定的争议。但按照普遍被接受的4V，即规模性（volume）、多样性（variety）、价值密度低（value）和 高速性（velocity）进行描述。
1：规模性（volume）
非结构化数据的超大规模增长导致数据集合的规模不断扩大，数据单位已经从GB级到TB级再到PB级，甚至开始以EB和ZB来计数。
2：多样性（variety）
大数据的类型不仅包括网络日志、音频、视频、图片、地理位置信息等结构化数据，还包括半结构化数据甚至是非结构化数据，具有异构性和多样性的特点。
3：价值密度低（value）
大数据价值密度相对较低。如随着物联网的广泛应用，信息感知无处不在，信息海量，但价值密度较低，存在大量不相关信息。因此需要对未来趋势与模式作可预测分析，利用机器学习、人工智能等进行深度复杂分析。而如何通过强大的机器算法更迅速地完成数据的价值提炼，是大数据时代亟待解决的难题。虽然单位数据的价值密度在不断降低，但是数据的整体价值在提高。
4：高效性（velocity）
处理速度快，时效性要求高。需要实时分析而非批量式分析，数据的输入、处理和分析连贯性地处理，这是大数据区分于传统数据挖掘最显著的特征。
（二）大数据应用案例
将大量的原始数据汇集在一起， 通过数据挖掘等技术分析数据中潜在的规律，预测未来的发展趋势，有助于人们做出正确的决策，从而提高各个领域的运行效率，获得更大的收益。大数据冲击着许多行业，包括金融行业、互联网、 医疗行业、社交网络、零售行业和电子商务等，大数据在彻底地改变着人们的生活。
1.大数据在互联网企业的应用
互联网是最早利用大数据进行精准营销的行业，通过大数据不仅可以为企业进行精准销，还可以快速友好地对用户实施个性化解决方案。IBM大数据提供的服务包括数据分析。
2.大数据在医疗行业的应用
医疗行业拥有大量的病例、病理报告、治愈方案、药物报告等。如果这些数据可以被整理和应用将会极大地帮助医生和病人。人们面对的数目及种类众多的病菌、病毒，以及肿瘤细胞，都处于不断进化的过程中。在发现诊断疾病时，疾病的确诊和治疗方案的确定是最困难的。
3.大数据在金融行业的应用
金融行业的数据具有交易量大、安全级别高等特点。银行在做信贷风险分析的时候，需要大量数据进行相关性分析，但是很多数据来源于政府各个职能部门，包括工商税务、质量监督、检察院法院等，这些数据短期仍然是无法拿到的。
4. 大数据在零售行业的应用
零售行业大数据应用有两个层面:一个层面是零售行业可以 了解客户的消费喜好和趋势，购买的其他产品，扩大销售额，也属于精准营销范畴。另外，零售行业还可以通过大数据掌生产厂家是非常宝贵的，零售商的数据信息将会有助于资源的有效利用，降低产能过剩，厂握未来消费趋势，有利于热销商品的进货管理和过季商品的处理。
5. 大数据在农业的应用
大数据在农业的应用主要是指依据木来的商业需求预测来进行农牧产品的生产，降低电贱伤农的概率。同时大数据的分析将会更加精确预测木来的天气气候，帮助农牧民做好自售灾害的预防工作。大数据同时也会帮助农民依据消费者的消费习惯来决定增加哪些品种的科植，减少哪些品种的生产，提高单位种植面积的产值，同时有助F快速销售农产品，完成资金回流。
6.大数据在交通行业的应用
目前，交通的大数据应用主要在两个方面:一方面可以利用大数据传感器数据来了解车辆通行密度，合理进行道路规划包括单行线路规划:另一方面可以利用大数据来实现即时信号灯调度，提高已有线路通行能力。
7.大数据在教育行业的应用
教育行业中的考试数据、学籍数据、教师数据、事业数据、经费数据、人口数据、研究数据等都分散在不同的机构和政府部门，很难形成大数据，这是需要统筹考虑解决的问题。
8. 大数据在政府机构的应用
政府利用大数据技术可以了解各地区的经济发展情况、各产业发展情况、消费支出和产I效利用自然资源和社会资源，提高社会生产效率。
