快速使用
bogon:Documents rousseau$ ipython --pylab
Python 3.6.0 (v3.6.0:41df79263a11, Dec 22 2016, 17:23:13)
Type 'copyright', 'credits' or 'license' for more information
IPython 6.2.1 -- An enhanced Interactive Python. Type '?' for help.
Using matplotlib backend: MacOSX
In [1]: import pandas as pd
In [2]: import numpy as np
In [3]: import matplotlib as plt
In [4]: from pandas import Series, DataFrame
按照Shell中的语句,就可以进入到Ipython的环境中使用Pandas分析数据,并绘制图表。ipython 环境的具体安装配置在Mac很简单,通过pip安装一下就可以,其他操作系统的安装可以自己百度一下。如果没有 ipython 也不要紧,标准的 python 命令行环境下也可以使用。
如果你使用 ipython,通过TAB补齐和help功能能给你的工作带来很大的便利。
主要数据结构 Series 和 DataFrame 及创建
Pandas里两个主要的数据结构就是 Series 和 DataFrame。Series 类似于Python的字典,DataFrame可以理解为二维表。
Series
可以通过传入一个List来创建一个Series对象。
In [6]: s = pd.Series([1,2,4,5,6,np.nan,7,8])
In [7]: s
Out[7]:
0 1.0
1 2.0
2 4.0
3 5.0
4 6.0
5 NaN
6 7.0
7 8.0
dtype: float64
DataFrame
DataFrame 的创建有很多种方式,可以使用 numpy array 或者 Python的字典(包括嵌套字典)。
In [103]: dt = DataFrame({"name":['wang','lv','bao','song'],"sex":['male','female','male','female'],"age":[12,23,35,47]})
In [104]: dt
Out[104]:
age name sex
0 12 wang male
1 23 lv female
2 35 bao male
3 47 song female
查看、选择数据
Series、DataFrame 查看数据的方式可以非常灵活,利用索引、切片,以及一些内置函数。
查看索引,列
接上面的例子
In [118]: dt.index
Out[118]: RangeIndex(start=0, stop=4, step=1)
In [119]: dt.columns
Out[119]: Index(['age', 'name', 'sex'], dtype='object')
通过 dt.values
还可以查看底层的数据。
选择查看部分数据
Series和DataFrame可以快速的从整个结果集中选择你需要的数据,包括选择一列或几列、一行或几行,以及通过对值进行筛选选择对应结果集。推荐使用.at、.iat、.loc、.iloc、.ix
进行选择。
1、获取某一列
In [140]: dt['name']
Out[140]:
序号
0 wang
1 lv
2 bao
3 song
Name: name, dtype: object
2、获取行,对行进行切片
In [143]: dt[1:3]
Out[143]:
age name sex
序号
1 23 lv female
2 35 bao male
3、通过loc选择一行或多行
In [162]: dt.loc[1]
Out[162]:
age 23
name lv
sex female
Name: 1, dtype: object
In [163]: dt.loc[1:3]
Out[163]:
age name sex
序号
1 23 lv female
2 35 bao male
3 47 song female
4、同时选择行和列
In [166]: dt.loc[2:3,['name','age']]
Out[166]:
name age
序号
2 bao 35
3 song 47
5、访问某个位置的值
In [168]: dt.at[1,'name']
Out[168]: 'lv'
以i
开头的函数,表示通过具体的位置选择数据,而不是通过标签(即行名或列名)。
6、通过一个列中的值来选择数据
In [170]: dt[ dt.age > 30 ]
Out[170]:
age name sex
序号
2 35 bao male
3 47 song female
7、通过where来筛选数据
In [183]: dt[dt > 30]
Out[183]:
age name sex
序号
0 NaN wang male
1 NaN lv female
2 35.0 bao male
3 47.0 song female
数据处理:转置、排序
对于一个DataFrame,可以进行行列的转置,就像Excel中粘贴时交换x/y轴一样。
In [176]: df = DataFrame({"beijing":{"people":3000,"area":5000,"university":200},"guangzhou":{"people":2000,"area":3000,"university":150},"shanghai":{"peo
...: ple":2800,"area":2500,"university":190}})
In [177]: df
Out[177]:
beijing guangzhou shanghai
area 5000 3000 2500
people 3000 2000 2800
university 200 150 190
In [178]: df.T
Out[178]:
area people university
beijing 5000 3000 200
guangzhou 3000 2000 150
shanghai 2500 2800 190
从这个例子可以看出来,构建 DataFrame 对象时,可以采用层次化的 dict 。
排序操作,可以按照列或者行进行排序,非常灵活。
In [194]: df.sort_values(by='beijing')
Out[194]:
beijing guangzhou shanghai
university 200 150 190
people 3000 2000 2800
area 5000 3000 2500
In [195]: df.sort_values(by='beijing',ascending=False)
Out[195]:
beijing guangzhou shanghai
area 5000 3000 2500
people 3000 2000 2800
university 200 150 190
In [196]: df.sort_values(axis=1,by='people',ascending=False)
Out[196]:
beijing shanghai guangzhou
area 5000 2500 3000
people 3000 2800 2000
university 200 190 150
统计操作
describe
可以对数据集进行快速的统计分析。
In [198]: df.T.describe()
Out[198]:
area people university
count 3.000000 3.000000 3.000000
mean 3500.000000 2600.000000 180.000000
std 1322.875656 529.150262 26.457513
min 2500.000000 2000.000000 150.000000
25% 2750.000000 2400.000000 170.000000
50% 3000.000000 2800.000000 190.000000
75% 4000.000000 2900.000000 195.000000
max 5000.000000 3000.000000 200.000000
参考资料:
1、pandas
2、十分钟搞定Pandas
3、利用Python进行数据分析