功能强大的python包（二）：Pandas
1. Pandas简介
Pandas是一个强大的分析结构化数据的工具集；它的使用基础是Numpy（提供高性能的矩阵运算）。
Pandas是一种结构化数据工具集，可以用于数据挖掘、数据分析、数据清洗、数据可视化等。
2. 数据类型
Pandas库最重要的两种数据结构是Series、DataFrame。
Series：一种类似于一维数组的对象， 是由一组Numpy数据及该数据对应的数字序列构成；可以通过该数字序列访问Numpy数据。
DadaFrame：一种表格型的数据结构，是由一组有序的列构成，每一列可以是不同的数据类型，相当于Series数据结构集合；与表格数据类似，DadaFrame数据有行索引和列索引；结合行、列索引可以访问其中单个数据元素。
数据结构 | 定义 |
Series | 带标签的一维同构数组 |
DataFrame | 带标签、大小可变的二维异构表格 |
3. Pandas总览
- 对象生成
生成Series对象和DataFrame对象
函数 | 实例 |
pd.Series |
|
pd.DataFrame |
|
import pandas as pd
pd.Series([1,2,3,4],index=['一'，'二'，'三'，'四']
pd.DataFrame([[1,2,3],[1,2,3]])- 数据访问
访问Series对象和DataFrame对象中的数据元素
函数 | 作用 |
df.head( ) | 访问对象头部数据 |
df.tail( ) | 访问对象尾部数据 |
df.describe( ) | 访问对象的多个统计数据 |
df.index | 访问对象的行索引 |
df.columns | 访问对象的列索引 |
df.values | 访问对象的数据元素 |
df.loc[ ] | 按索引访问对象的数据 |
df.iloc[ ] | 按位置访问对象的数据 |
df[条件] | 通过条件筛选数据 |
df.isin([ ]) | 通过条件筛选数据 |
import pandas as pd
import pandas as pd
df = pd.DataFrame({'公号名':['人类之奴','十点美剧','韩剧剧场','果壳网','十点读书','胖胖啊'],'领域':['科技','影视','影视','科普','阅读','情感'],'粉丝数':[100000,964,1232,543,9990,200],'更新':['日更','周更','日更','月更','周更','日更']})
df.head()
df.tail(1)
df['粉丝数'].describe()
df.index
df.columns
df.values
df.loc[0]
df.loc[:]['公号名']
df.iloc[1:3]
df.iloc[1:4,0:2]
df[df['粉丝数']>9000]
df[df['领域'].isin(['科技'])]- 文件读写
Pandas可以读写.csv、.xlsx等常用文件；读取的同时将数据转换成DataFrame数据结构，用于后续处理。
函数 | 作用 |
pd.read_csv( ) | 读取.csv文将 |
pd.to_csv( ) | 将数据保存为.csv文件 |
pd.read_excel( ) | 读取.xlsx文件 |
pd.to_excel( ) | 将数据保存为.xlsx文件 |
pd.read_hdf( ) | 读取.h5文件 |
pd.to_hdf( ) | 将数据保存为.h5文件 |
import pandas as pd
path = 'D:\\桌面\\pd0.csv'
#GB18030可以解码包含中文的文件
df_csv = pd.read_csv(path,encoding='GB18030')
df_csv.to_csv('人类之奴.csv')
df_xlsx = pd.read_excel('D:\\桌面\\python包.xlsx',sheet_name=0)
df_xlsx.to_excel('人类之奴.xlsx')
df_hdf = pd.read_hdf('人类之奴.h5')
df_csv.to_hdf('人类之奴.h5','a')- 数据清洗
对对象中缺失的、有问题的数据进行处理（删除、填充、替换）。
函数 | 作用 |
df.dropna( ) | 删除有缺失值的数据项 |
df.fillna( ) | 填充缺失值 |
import pandas as pd
df = pd.DataFrame({'公号名':['人类之奴','十点美剧','韩剧剧场','果壳网','十点读书','胖胖啊'],'领域':['科技',None,'影视','科普',None,'情感'],'粉丝数':[100000,964,None,543,9990,200],'更新':['日更','周更','日更','月更','周更','日更']})
df.head()
df.dropna()
df.fillna('科技')- 数据处理
数据处理包括数据拼接、数据重排、数据分析等。
函数 | 作用 |
pd.concat([ ]) | 拼接Series/DataFrame对象 |
pd.merge( ) | 合并Series/DataFrame对象 |
pd.join( ) | 合并Series/DataFrame对象 |
df.sort_index( ) | 按索引重排数据 |
df.sort_values( ) | 按值重排数据 |
Numpy方法 | Series/DataFrame对象可以调用Numpy方法 |
df.groupby([ ]).function( ) | 分组进行function处理 |
df.apply(function) | 对对象整体调用function处理 |
import pandas as pd
import numpy as np
df1 = pd.DataFrame({'名称':['甲','乙','丙','丁'],'语文':[56,34,67,89]})
df2 = pd.DataFrame({'名称':['甲','乙','丙','丁'],'数学':[98,97,89,35]})
pd.concat([df1,df2],axis=1)
pd.merge(df1,df2)
df = pd.merge(df1,df2)
df.sort_index(1,ascending=False)
df.sort_values(by='数学')
df.groupby(['数学']).mean()
df['数学'].apply(np.median)- 数据可视化
对Series/DataFrame对象进行可视化。
函数 | 作用 |
pd.plot( ) | 绘制折线图 |
pd.plot.hist( ) | 绘制直方图 |
pd.plot.scatter( ) | 绘制散点图 |
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
df1 = pd.DataFrame({'语文':[56,34,67,89]})
df2 = pd.DataFrame({'数学':[98,97,89,35]})
pd.concat([df1,df2],axis=1)
pd.merge(df1,df2)
df.plot()
df.plot.hist()
df.plot.scatter()
#运行出错，没有解决这个问题，希望懂得朋友评论区帮忙解决一下
