pandas实现DataFrame的Merge合并
Pandas的Merge，相当于Sql的Join，将不同的表按key关联到一个表
merge的语法：
pd.merge(left, right, how='inner', on=None, left_on=None, right_on=None, left_index=False, right_index=False, sort=True, suffixes=('x', 'y'), copy=True, indicator=False, validate=None)left，right：要merge的dataframe或者有name的Series
how：join类型，‘left’, ‘right’, ‘outer’, ‘inner’
on：join的key，left和right都需要有这个key
left_on：left的df或者series的key
right_on：right的df或者seires的key
left_index，right_index：使用index而不是普通的column做join
suffixes：两个元素的后缀，如果列有重名，自动添加后缀，默认是(‘x’, ‘y’)
文档地址：https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.DataFrame.merge.html
内容：
电影数据集的join实例
理解merge时一对一、一对多、多对多的数量对齐关系
理解left join、right join、inner join、outer join的区别
如果出现非Key的字段重名怎么办
import pandas as pd
# 用户评分表
df_ratings = pd.read_csv(
"./pandas/ant-learn-pandas/datas/movielens-1m/ratings.dat",
sep="::",
engine="python",
names="UserID::MovieID::Rating::Timestamp".split("::")
)
print(df_ratings.head())
# 用户信息表
df_users = pd.read_csv(
"./pandas/ant-learn-pandas/datas/movielens-1m/users.dat",
sep="::",
engine="python",
names="UserID::Gender::Age::Occupation::Zip-code".split("::")
)
print(df_users.head())
# 电影详情表
df_movies = pd.read_csv(
"./pandas/ant-learn-pandas/datas/movielens-1m/movies.dat",
sep="::",
engine="python",
names="MovieID::Title::Genres".split("::")
)
print(df_movies.head())评分表和用户表合并
# 评分表和用户表合并
df_ratings_users = pd.merge(
df_ratings, df_users, left_on="UserID", right_on="UserID", how="inner"
)
print(df_ratings_users)合并后的表与电影详情表合并
# 合并后的表与电影详情表合并
df_ratings_users_movies = pd.merge(
df_ratings_users, df_movies, left_on="MovieID", right_on="MovieID", how="inner"
)
print(df_ratings_users_movies.head())理解merge时数量的对齐关系
以下关系要正确理解：
one-to-one：一对一关系，关联的key都是唯一的
比如(学号，姓名) merge (学号，年龄)
结果条数为：11
one-to-many：一对多关系，左边唯一key，右边不唯一key
比如(学号，姓名) merge (学号，[语文成绩、数学成绩、英语成绩])
结果条数为：1N
many-to-many：多对多关系，左边右边都不是唯一的
比如（学号，[语文成绩、数学成绩、英语成绩]） merge (学号，[篮球、足球、乒乓球])
结果条数为：M*N
one-to-one 一对一关系的merge
# one-to-one 一对一关系的merge
left = pd.DataFrame({'sno': [11, 12, 13, 14],
'name': ['name_a', 'name_b', 'name_c', 'name_d']
})
print(left)
right = pd.DataFrame({'sno': [11, 12, 13, 14],
'age': ['21', '22', '23', '24']
})
print(right)
# 一对一关系，结果中有4条
ret = pd.merge(left, right, on='sno')
print(ret)
'''
sno name age
0 11 name_a 21
1 12 name_b 22
2 13 name_c 23
3 14 name_d 24
'''one-to-many 一对多关系的merge
# one-to-many 一对多关系的merge
# 注意：数据会被复制
right_two = pd.DataFrame({'sno': [11, 11, 11, 12, 12, 13],
'grade': ['语文88', '数学90', '英语75', '语文66', '数学55', '英语29']
})
# 数目以多的一边为准
ret2 = pd.merge(left, right_two, on='sno')
print(ret2)
'''
sno name grade
0 11 name_a 语文88
1 11 name_a 数学90
2 11 name_a 英语75
3 12 name_b 语文66
4 12 name_b 数学55
5 13 name_c 英语29
'''many-to-many 多对多关系的merge
# many-to-many 多对多关系的merge
left_two = pd.DataFrame({'sno': [11, 11, 12, 12, 12],
'爱好': ['篮球', '羽毛球', '乒乓球', '篮球', "足球"]
})
right_three = pd.DataFrame({'sno': [11, 11, 11, 12, 12, 13],
'grade': ['语文88', '数学90', '英语75', '语文66', '数学55', '英语29']
})
ret3 = pd.merge(left_two, right_three, on='sno')
print(ret3)
'''
sno 爱好 grade
0 11 篮球 语文88
1 11 篮球 数学90
2 11 篮球 英语75
3 11 羽毛球 语文88
4 11 羽毛球 数学90
5 11 羽毛球 英语75
6 12 乒乓球 语文66
7 12 乒乓球 数学55
8 12 篮球 语文66
9 12 篮球 数学55
10 12 足球 语文66
11 12 足球 数学55
'''理解left join、right join、inner join、outer join的区别
# 理解left join、right join、inner join、outer join的区别
# inner join，默认
# 左边和右边的key都有，才会出现在结果里
pd.merge(left, right, how='inner')
# left join
# 左边的都会出现在结果里，右边的如果无法匹配则为Null
pd.merge(left, right, how='left')
# right join
# 右边的都会出现在结果里，左边的如果无法匹配则为Null
pd.merge(left, right, how='right')
# outer join
# 左边、右边的都会出现在结果里，如果无法匹配则为Null
pd.merge(left, right, how='outer')
# 如果出现非Key的字段重名怎么办
# _left为左表同名字段后缀
pd.merge(left, right, on='key', suffixes=('_left', '_right'))
