Python 关于“列表去重”的几点小技巧

1. 最常见的去重方法是：先转集合再转回列表

1）set()函数

>>> nums = [-1, 0, 2, -1, 3, 1, 0, 1, 2]
>>> list(set(nums))
[0, 1, 2, 3, -1]

缺点：返回结果的元素顺序与原列表不一致

可以用.sort() 或 sorted()排序，改正到原列表顺序

>>> sorted(list(set(nums)),key=nums.index)
[-1, 0, 2, 3, 1]
>>> 

2) 字典内置方法 dict.fromkeys()，不用额外再排序

>>> nums = [-1, 0, 2, -1, 3, 1, 0, 1, 2]
>>> list(dict.fromkeys(nums))
[-1, 0, 2, 3, 1]
>>>
>>> # 也可以用 空{}前导的写法
>>> {}.fromkeys(nums)
{-1: None, 0: None, 2: None, 3: None, 1: None}
>>> list({}.fromkeys(nums))
[-1, 0, 2, 3, 1]

3）前两种方法的共同缺点：当源列表包括 unhashable 类型元素时都无法工作

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> list(set(nums))
Traceback (most recent call last):
  File "<pyshell#222>", line 1, in <module>
    list(set(nums))
TypeError: unhashable type: 'list'
>>> {}.fromkeys(nums)
Traceback (most recent call last):
  File "<pyshell#223>", line 1, in <module>
    {}.fromkeys(nums)
TypeError: unhashable type: 'list'
>>> 

2. 直接删除del重复元素，遍历源列表用.count(n)计数，>1即有重复

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> t = nums[:]
>>> # 此处如用 t = nums ，nums也会被修改，最后一步的 t==nums 将返回True
>>> for n in t:
	while t.count(n)>1:
		del t[t.index(n)]

		
>>> sorted(t,key=nums.index)
[-1, 0, 2, 3, 1, [1, 2]]
>>>
>>> t == nums
False
>>> 

或者如下从尾部向前删就不用另外排序：

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> t = nums[::-1]
>>> for i in nums:
	if nums.count(i)>1:
		del nums[-t.index(i)-1]

		
>>> nums
[-1, 0, 2, 3, 1, [1, 2]]
>>> 

3. 列表list.remove()方法

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> t = nums[:]
>>> for i in t:
	while t.count(i)>1:
		t.remove(i)

		
>>> t.sort(key=nums.index)
>>> t
[-1, 0, 2, 3, 1, [1, 2]]
>>> 

4. 新建空列表，通过遍历源列表，只添加新列表中没有的元素：

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> tmp = []
>>> for n in nums:
	if n not in tmp:
		tmp.append(n)

		
>>> tmp
[-1, 0, 2, 3, 1, [1, 2]]
>>> 

5. functools.reduce()方法

>>> from functools import reduce
>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> reduce(lambda x,y:x if y in x else x + [y],[[],]+nums)
[-1, 0, 2, 3, 1, [1, 2]]
>>> nums
[-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> 

6. itertools.groupby()方法，也不适合有unhashable类型元素的列表

>>> from itertools import groupby
>>> nums = [-1, 0, 2, -1, 3, 0, 1, 2]
>>> t = sorted(nums)
>>> res = []
>>> for i,n in groupby(t):
	res.append(i)

	
>>> sorted(res, key=nums.index)
[-1, 0, 2, 3, 1]

注：groupby()分组时，同值元素相邻才会分在同组，所以要先排序sorted()

groupby()方法拓展：先建一个源列表元素出现次数的字典，再根据字典来删重复元素

>>> nums = [-1, 0, 2, -1, 0, 3, 1, 0, 1, 2]
>>> count = {i:len([*n]) for i,n in groupby(sorted(nums))}
>>> count
{-1: 2, 0: 3, 1: 2, 2: 2, 3: 1}
>>> res = nums[:]
>>> for i in m.keys():
	for j in range(m[i]-1):
		res.remove(i)

		
>>> sorted(res, key=nums.index)
[-1, 0, 2, 3, 1]
>>> 

注：有点多此一举，因为同款字典这样写更方便：{i:nums.count(i) for i in nums}

---

总结：

在不包含unhashable类型元素的情况下，列表去重用 dict.fromkeys() 最优；

否则用第4种方法，即空列表只追加“新”元素的办法。