简单实现单个list去重与去除另一个list中包含的元素

最新推荐文章于 2022-07-09 09:58:16 发布

原创最新推荐文章于 2022-07-09 09:58:16 发布 · 1.2w 阅读

3 ·

CC 4.0 BY-SA版权

文章标签：

#list去重 #文本去重 #python #去重

python 专栏收录该内容

8 篇文章

订阅专栏

本文介绍了一种高效的文本去重方法，通过保留文本顺序的同时去除重复内容，适用于处理大量文本数据。文中还展示了如何使用Python实现这一过程，并提供了一个简单的例子来说明整个流程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

list=open(path,'r', encoding='UTF-8').readlines()
#list1 = open(path,'r', encoding='UTF-8').readlines()
new_li=[]
for i in list:
    if i not in new_li:    #此处修改实现单个或多个文本去重
        new_li.append(i)
        print(i)
        f = open(path, 'a', encoding='utf-8')
        #f.write(i.strip() + "\n")
        f.write(i)
        f.close()

自身去重方法，快速且保持顺序不变

list1=[1,3,2,4,5,1,2,3]
li=list(set(list1))
li.sort(key=list1.index)
print(li)

速度更快，占用内存小

readPath='huanbao_org2.txt'
writePath='huanbao_org3.txt'
lines_seen=set()
outfiile=open(writePath,'a+',encoding='utf-8')
f=open(readPath,'r',encoding='utf-8')
for line in f:
    if line not in lines_seen:
        outfiile.write(line)
        lines_seen.add(line)