📅  最后修改于: 2023-12-03 14:52:59.645000             🧑  作者: Mango
在数据科学中,常常需要将多个数据框按行或列方向进行堆叠。在 Pandas 中,可以使用 concat、append、merge 等函数实现。
concat 函数可以沿着指定的轴(默认为行)将多个 Pandas DataFrame 堆叠在一起。例如:
import pandas as pd
# 创建三个数据框
df1 = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'],
'B': ['B0', 'B1', 'B2', 'B3'],
'C': ['C0', 'C1', 'C2', 'C3'],
'D': ['D0', 'D1', 'D2', 'D3']})
df2 = pd.DataFrame({'A': ['A4', 'A5', 'A6', 'A7'],
'B': ['B4', 'B5', 'B6', 'B7'],
'C': ['C4', 'C5', 'C6', 'C7'],
'D': ['D4', 'D5', 'D6', 'D7']})
df3 = pd.DataFrame({'A': ['A8', 'A9', 'A10', 'A11'],
'B': ['B8', 'B9', 'B10', 'B11'],
'C': ['C8', 'C9', 'C10', 'C11'],
'D': ['D8', 'D9', 'D10', 'D11']})
# 纵向堆叠
result = pd.concat([df1, df2, df3])
print(result)
上述代码将会输出:
Out[1]:
A B C D
0 A0 B0 C0 D0
1 A1 B1 C1 D1
2 A2 B2 C2 D2
3 A3 B3 C3 D3
0 A4 B4 C4 D4
1 A5 B5 C5 D5
2 A6 B6 C6 D6
3 A7 B7 C7 D7
0 A8 B8 C8 D8
1 A9 B9 C9 D9
2 A10 B10 C10 D10
3 A11 B11 C11 D11
从结果可以看出,三个数据框按矩阵的形式纵向堆叠了起来,索引从 0 开始递增。
如果不想要这种从 0 开始递增的索引,可以通过将 ignore_index 参数设置为 True 来忽略原来的索引:
# 纵向堆叠
result = pd.concat([df1, df2, df3], ignore_index=True)
print(result)
输出结果:
Out[2]:
A B C D
0 A0 B0 C0 D0
1 A1 B1 C1 D1
2 A2 B2 C2 D2
3 A3 B3 C3 D3
4 A4 B4 C4 D4
5 A5 B5 C5 D5
6 A6 B6 C6 D6
7 A7 B7 C7 D7
8 A8 B8 C8 D8
9 A9 B9 C9 D9
10 A10 B10 C10 D10
11 A11 B11 C11 D11
如果需要横向堆叠数据框,可以通过设置 axis 参数为 1 来实现:
# 横向堆叠
result = pd.concat([df1, df2, df3], axis=1)
print(result)
输出结果:
Out[3]:
A B C D A B C D A B C D
0 A0 B0 C0 D0 A4 B4 C4 D4 A8 B8 C8 D8
1 A1 B1 C1 D1 A5 B5 C5 D5 A9 B9 C9 D9
2 A2 B2 C2 D2 A6 B6 C6 D6 A10 B10 C10 D10
3 A3 B3 C3 D3 A7 B7 C7 D7 A11 B11 C11 D11
从结果中可以看出,三个数据框按列的方式进行了横向堆叠。
append 函数可以将一个数据框追加在另一个数据框的下方(即纵向堆叠)。例如:
# 在 df1 的下方追加 df2
result = df1.append(df2)
print(result)
输出结果:
Out[4]:
A B C D
0 A0 B0 C0 D0
1 A1 B1 C1 D1
2 A2 B2 C2 D2
3 A3 B3 C3 D3
0 A4 B4 C4 D4
1 A5 B5 C5 D5
2 A6 B6 C6 D6
3 A7 B7 C7 D7
可以看出,数据框 df2 被纵向堆叠在了 df1 的下方。
如果要追加多个数据框,可以使用类似 concat 函数的方式:
# 在 df1 的下方依次追加 df2 和 df3
result = df1.append([df2, df3])
print(result)
输出结果:
Out[5]:
A B C D
0 A0 B0 C0 D0
1 A1 B1 C1 D1
2 A2 B2 C2 D2
3 A3 B3 C3 D3
0 A4 B4 C4 D4
1 A5 B5 C5 D5
2 A6 B6 C6 D6
3 A7 B7 C7 D7
0 A8 B8 C8 D8
1 A9 B9 C9 D9
2 A10 B10 C10 D10
3 A11 B11 C11 D11
merge 函数可以实现两个数据框之间的列的合并。例如:
# 创建两个数据框
df1 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3'],
'A': ['A0', 'A1', 'A2', 'A3'],
'B': ['B0', 'B1', 'B2', 'B3']})
df2 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3'],
'C': ['C0', 'C1', 'C2', 'C3'],
'D': ['D0', 'D1', 'D2', 'D3']})
# 合并 df1 和 df2
result = pd.merge(df1, df2, on='key')
print(result)
输出结果:
Out[6]:
key A B C D
0 K0 A0 B0 C0 D0
1 K1 A1 B1 C1 D1
2 K2 A2 B2 C2 D2
3 K3 A3 B3 C3 D3
可以看出,这两个数据框通过共同的列 'key' 进行了合并。
如果两个数据框中的共同列的列名不同,可以使用 left_on 和 right_on 参数来指定:
# 指定列名不同的列进行合并
df1 = pd.DataFrame({'lkey': ['K0', 'K1', 'K2', 'K3'],
'A': ['A0', 'A1', 'A2', 'A3'],
'B': ['B0', 'B1', 'B2', 'B3']})
df2 = pd.DataFrame({'rkey': ['K0', 'K1', 'K2', 'K3'],
'C': ['C0', 'C1', 'C2', 'C3'],
'D': ['D0', 'D1', 'D2', 'D3']})
result = pd.merge(df1, df2, left_on='lkey', right_on='rkey')
print(result)
输出结果:
Out[7]:
lkey A B rkey C D
0 K0 A0 B0 K0 C0 D0
1 K1 A1 B1 K1 C1 D1
2 K2 A2 B2 K2 C2 D2
3 K3 A3 B3 K3 C3 D3
除此之外,merge 函数还支持 inner、outer、left、right 四种不同的合并方式,通过 how 参数来指定,默认为 inner:
# 指定不同的合并方式
df1 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3'],
'A': ['A0', 'A1', 'A2', 'A3'],
'B': ['B0', 'B1', 'B2', 'B3']})
df2 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K4'],
'C': ['C0', 'C1', 'C2', 'C4'],
'D': ['D0', 'D1', 'D2', 'D4']})
# 内部连接(默认)
result = pd.merge(df1, df2, on='key')
print(result)
# 外部连接
result = pd.merge(df1, df2, on='key', how='outer')
print(result)
# 左连接
result = pd.merge(df1, df2, on='key', how='left')
print(result)
# 右连接
result = pd.merge(df1, df2, on='key', how='right')
print(result)
输出结果:
key A B C D
0 K0 A0 B0 C0 D0
1 K1 A1 B1 C1 D1
2 K2 A2 B2 C2 D2
key A B C D
0 K0 A0 B0 C0 D0
1 K1 A1 B1 C1 D1
2 K2 A2 B2 C2 D2
3 K3 A3 B3 NaN NaN
4 K4 NaN NaN C4 D4
key A B C D
0 K0 A0 B0 C0 D0
1 K1 A1 B1 C1 D1
2 K2 A2 B2 C2 D2
3 K3 A3 B3 NaN NaN
key A B C D
0 K0 A0 B0 C0 D0
1 K1 A1 B1 C1 D1
2 K2 A2 B2 C2 D2
3 K4 NaN NaN C4 D4
Pandas 中的 concat、append、merge 函数可以满足数据堆叠和合并的需求。其中,concat 函数适用于数据框的纵向和横向堆叠,append 函数适用于数据框的纵向堆叠,merge 函数适用于数据框的列合并。