python令人迷惑的duplicated和drop_duplicates()

最新推荐文章于 2024-05-17 09:20:11 发布

石小秀1995

最新推荐文章于 2024-05-17 09:20:11 发布

阅读量2.1w

点赞数 18

CC 4.0 BY-SA版权

分类专栏： python duplicated drop_duplicates

本文链接：https://blog.youkuaiyun.com/weixin_43852674/article/details/87717191

36 篇文章

订阅专栏

2 篇文章

订阅专栏

2 篇文章

订阅专栏

本文通过一个具体的示例，深入探讨了在使用pandas库处理数据时，DataFrame对象的duplicated()与drop_duplicates()函数的工作原理。通过对比两者的输出结果，解释了它们在数据查重和去重方面的应用技巧，帮助读者更好地掌握数据清洗的方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在算face_track_id map有感：

data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']}
frame=pd.DataFrame(data)  
frame

在这里插入图片描述

frame.shape
$ (8,2)

# 说明duplicated()是对整行进行查重，return 重复了的数据，且只现实n-1条重复的数据（n是重复的次数）
frame[frame.duplicated() == True]

一开始还很疑惑，明明（1，b）只出现了1次，哪里duplicate了。其实，人家return的结果是去掉已经出现过一次的行数据了。
所以看起来有点confuse，感觉（1，b）并没有重复，但其实人家的函数很简洁呢，返回了重复值而且不冗余。
在这里插入图片描述

# 说明drop_duplicates()函数是将所有重复的数据都去掉了，且默认保留重复数据的第一条。
# 比如（2，d）出现了3次，在duplicated（）中显示了2次，在drop_dupicates（）后保留了一个
frame.drop_duplicates().shape
$ (4,2)

# 留下了完全唯一的数据行
frame.drop_duplicates()

在这里插入图片描述