原标题:Python数据分析,系统步骤介绍!

摘要

在用Python做数据分析的过程中,有一些操作步骤和逻辑框架是很固定的,只需要记住其用法即可。本节内容介绍Pandas模块在数据分析中的常用方法。

内容目录

1、数据的生成与导入

2、数据信息查看

2.1、查看整体数据信息

2.2、查看数据维度、列名称、数据格式

2.3、查看数据特殊值和数值

2.3.1、查看空值

2.3.2、查看唯一值

2.3.3、查看数值

2.3.4、查看前后数据

3、数据的清洗和预处理等步骤

3.1、空值处理

3.2、空格处理

3.3、字符串大小写处理

3.4、更改数据类型和列名称

3.5、重复值处理

3.6、数据替换

3.7、数据合并和排序

3.8、数据分组

4、数据提取和筛选

4.1、按位置提取

4.2、按标签提取

4.3、按条件提取

4.4、数据筛选

5、数据汇总与统计量计算

5.1、groupby用法

5.2、数据透视表用法

5.3、数据采样

5.4、数据求均值 ,方差等

5.5、数据求相关系数

6、数据存储

6.1、存储到Execl

6.2、存储到CSV

1、数据的生成与导入

Python 开源数据分析系统 python编写数据分析系统_数据

说明:

利用Pandas里面的read系列可直接读取相应格式的数据文件。

生成数据直接创建一个Dataframe即可

本次数据为泰坦尼克号数据

2、数据信息查看

目的:了解数据的概况,例如整个数据表的大小、所占空间、数据格式、是否有空值和重复项,为后面的清洗和预处理做准备。

Python 开源数据分析系统 python编写数据分析系统_Python 开源数据分析系统_02

限于篇幅,只对其中一种方法进行截图展示。例:查看前五行数据

Python 开源数据分析系统 python编写数据分析系统_数据_03

3、数据的清洗和预处理等步骤

对清洗完的数据进行预处理整理以便后期的统计和分析工作。

Python 开源数据分析系统 python编写数据分析系统_python数据分析系统_04

例如更改列名:

Python 开源数据分析系统 python编写数据分析系统_数据_05

数据合并:

Pandas具有功能全面的高性能内存中连接操作,与SQL等关系数据库非常相似。

Python 开源数据分析系统 python编写数据分析系统_预处理_06

合并方式:

inner

outer

left

right

组合方式:

left_on + right_on

left_on + right_index

left_index + right_on

left_index + right_index

数据排序:

Python 开源数据分析系统 python编写数据分析系统_python数据分析系统_07

数据分组:

例如:把泰坦尼克号火灾等级分成:‘high’,‘low’

Python 开源数据分析系统 python编写数据分析系统_python数据分析系统_08

结果:

Python 开源数据分析系统 python编写数据分析系统_预处理_09

4、数据提取和筛选

数据提取:使用loc和iloc配合相关函数。

筛选:使用与,或,非三个条件配合大于,小于和等于对数据进行筛选。

Python 开源数据分析系统 python编写数据分析系统_Python 开源数据分析系统_10

5、数据汇总与统计量计算

Python 开源数据分析系统 python编写数据分析系统_python数据分析系统_11

Python 开源数据分析系统 python编写数据分析系统_python数据分析系统_12

相关系数结果:

Python 开源数据分析系统 python编写数据分析系统_数据_13

6、数据存储

Python 开源数据分析系统 python编写数据分析系统_预处理_14