在Pandas中DataFrame数据合并,连接
(concat,merge,join)的实例
最近在⼯作中,遇到了数据合并、连接的问题,故整理如下,供需要者参考~
⼀、concat:沿着⼀条轴,将多个对象堆叠到⼀起
concat⽅法相当于数据库中的全连接(union all),它不仅可以指定连接的⽅式(outer join或inner join)还可以指定按照某个轴进⾏连接。与数据库不同的是,它不会去重,但是可以使⽤drop_duplicates⽅法达到去重的效果。
concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,
keys=None, levels=None, names=None, verify_integrity=False, copy=True):
当axis=0时,pd.concat([obj1, obj2])的效果与obj1.append(obj2)是相同的;当axis=1时,pd.concat([obj1, obj2], axis=1)的效果与pd.merge(obj1, obj2, left_index=True, right_index=True, how='outer')是相同的。
merge⽅法的介绍请参看下⽂。
参数介绍:
objs:需要连接的对象集合,⼀般是列表或字典;
axis:连接轴向;
join:参数为‘outer'或‘inner';
join_axes=[]:指定⾃定义的索引;
keys=[]:创建层次化索引;
ignore_index=True:重建索引
举例:
df1=DataFrame(np.random.randn(3,4),columns=['a','b','c','d'])
df2=DataFrame(np.random.randn(2,3),columns=['b','d','a'])
a    b    c    d
0 -0.848557 -1.163877 -0.306148 -1.163944
1 1.358759 1.159369 -0.532110 2.183934
2 0.532117 0.788350 0.703752 -2.620643
0 -0.316156 -0.707832    NaN -0.416589
1 0.406830 1.34593
2    NaN -1.874817
a    b    c    d
0 -0.848557 -1.163877 -0.306148 -1.163944
1 1.358759 1.159369 -0.532110 2.183934
2 0.532117 0.788350 0.703752 -2.620643
3 -0.316156 -0.707832    NaN -0.416589
4 0.406830 1.345932    NaN -1.874817
⼆、merge:通过键拼接列
多表left join
类似于关系型数据库的连接⽅式,可以根据⼀个或多个键将不同的DatFrame连接起来。该函数的典型应⽤场景是,针对同⼀个主键存在两张不同字段的表,根据主键整合到⼀张表⾥⾯。
merge(left, right, how='inner', on=None, left_on=None, right_on=None,
left_index=False, right_index=False, sort=True,
suffixes=('_x', '_y'), copy=True, indicator=False)
参数介绍:
left和right:两个不同的DataFrame;
how:连接⽅式,有inner、left、right、outer,默认为inner;
on:指的是⽤于连接的列索引名称,必须存在于左右两个DataFrame中,如果没有指定且其他参数也没有指定,则以两个DataFrame列名交集作为连接键;
left_on:左侧DataFrame中⽤于连接键的列名,这个参数左右列名不同但代表的含义相同时⾮常的有⽤;
right_on:右侧DataFrame中⽤于连接键的列名;
left_index:使⽤左侧DataFrame中的⾏索引作为连接键;
right_index:使⽤右侧DataFrame中的⾏索引作为连接键;
sort:默认为True,将合并的数据进⾏排序,设置为False可以提⾼性能;
suffixes:字符串值组成的元组,⽤于指定当左右DataFrame存在相同列名时在列名后⾯附加的后缀名称,默认为('_x', '_y');copy:默认为True,总是将数据复制到数据结构中,设置为False可以提⾼性能;
indicator:显⽰合并数据中数据的来源情况
举例:
# 1.默认以重叠的列名当做连接键。
df1=DataFrame({'key':['a','b','b'],'data1':range(3)})
df2=DataFrame({'key':['a','b','c'],'data2':range(3)})
<(df1,df2)  #没有指定连接键,默认⽤重叠列名,没有指定连接⽅式
data1 key data2
0  0  a  0
1  1  b  1
2  2  b  1
# 2.默认做inner连接(取key的交集),连接⽅式还有(left,right,outer),制定连接⽅式加参数:how=''
<(df2,df1)
data2 key data1
0  0  a  0
1  1  b  1
2  1  b  2          #默认内连接,可以看见c没有连接上。
<(df2,df1,how='left')  #通过how,指定连接⽅式
data2 key data1
0  0  a  0
1  1  b  1
2  1  b  2
3  2  c  NaN
# 3.多键连接时将连接键组成列表传⼊,例:pd.merge(df1,df2,on=['key1','key2']
right=DataFrame({'key1':['foo','foo','bar','bar'],
'key2':['one','one','one','two'],
'lval':[4,5,6,7]})
left=DataFrame({'key1':['foo','foo','bar'],
'key2':['one','two','one'],
'lval':[1,2,3]})
right=DataFrame({'key1':['foo','foo','bar','bar'],
'key2':['one','one','one','two'],
'lval':[4,5,6,7]})
<(left,right,on=['key1','key2'],how='outer') #传出数组
key1 key2 lval_x lval_y
0 foo one    1    4
1 foo one    1    5
2 foo two    2  NaN
3 bar one    3    6
4 bar two  NaN    7
# 4.如果两个对象的列名不同,可以分别指定,例:pd.merge(df1,df2,left_on='lkey',right_on='rkey')
df3=DataFrame({'key3':['foo','foo','bar','bar'], #将上⾯的right的key 改了名字
'key4':['one','one','one','two'],
'lval':[4,5,6,7]})
<(left,df3,left_on='key1',right_on='key3') #键名不同的连接
key1 key2 lval_x key3 key4 lval_y
0 foo one    1 foo one    4
1 foo one    1 foo one    5
2 foo two    2 foo one    4
3 foo two    2 foo one    5
4 bar one    3 bar one    6
5 bar one    3 bar two    7
三、join:主要⽤于索引上的合并
join(self, other, on=None, how='left', lsuffix='', rsuffix='',sort=False):
其参数的意义与merge⽅法中的参数意义基本⼀样。
以上这篇在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例就是⼩编分享给⼤家的全部内容了,希望能给⼤家⼀个参考,也希望⼤家多多⽀持。