找出两个数据帧之间的差异

我有两个数据帧df1和df2，其中df2是df1的子集。我如何得到一个新的数据帧(df3)，这是两个数据帧之间的差异?

换句话说，一个在df1中所有的行/列都不在df2中的数据帧?

当前回答

使用lambda函数，您可以过滤_merge值为“left_only”的行，以获得df1中df2中缺失的所有行

df3 = df1.merge(df2, how = 'outer' ,indicator=True).loc[lambda x :x['_merge']=='left_only']
df

其他回答

试试这个: Df_new = df1。merge(df2, how='outer'， indicator=True)。查询('_merge == "left_only"')。下降(_merge, 1)

它将产生一个新的数据框架，其差异是:df1中存在的值，而df2中不存在。

另一个可能的解决方案是使用numpy广播:

df1[np.all(~np.all(df1.values == df2.values[:, None], axis=2), axis=0)]

输出:

    Name  Age
1   Mike   45
4  Marry   27
7   Bolt   39

edit2，我想出了一个新的解决方案，不需要设置索引

newdf=pd.concat([df1,df2]).drop_duplicates(keep=False)

好吧，我发现最高投票的答案已经包含我已经弄明白了。是的，我们只能在每个dfs中没有重复的情况下使用此代码。

我有一个棘手的方法。首先，我们将“Name”设置为问题给出的两个数据框架的索引。由于我们在两个dfs中有相同的' Name '，我们可以从'大' df中删除'小' df的索引。这是代码。

df1.set_index('Name',inplace=True)
df2.set_index('Name',inplace=True)
newdf=df1.drop(df2.index)

Pandas现在提供了一个新的API来处理数据帧差异:Pandas . datafframe .compare

df.compare(df2)
  col1       col3
  self other self other
0    a     c  NaN   NaN
2  NaN   NaN  3.0   4.0

对称差分

如果你只对其中一个数据帧中的行感兴趣，而不是两个数据帧中的行，你在寻找集的差异:

pd.concat([df1,df2]).drop_duplicates(keep=False)

⚠️只有在两个数据帧都不包含任何重复的情况下才有效。

设置差分/关系代数差分

如果你对关系代数差异/集差异感兴趣，即df1-df2或df1\df2:

pd.concat([df1,df2,df2]).drop_duplicates(keep=False)

⚠️只有在两个数据帧都不包含任何重复的情况下才有效。

推荐文章