python两种列表元素去重函数性能比较

原创于 2017-08-26 19:27:19 发布 · 4.9k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#python #函数 #语法 #性能 #测试

python 专栏收录该内容

10 篇文章

订阅专栏

本文通过对比两种Python列表去重方法的效率，发现对于较短列表（长度<=1000），使用字典.fromkeys()的方法更快；而对于较长列表，则推荐使用set()函数。此外，还提供了一些关于大规模数据处理的建议。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

测试函数：

第一种：list的set函数

第二种：{}.fromkeys().keys()

测试代码：

#!/usr/bin/python
#-*- coding:utf-8 -*-
import time
import random

l1 = []
leng = 10L
for i in range(0,leng):
    temp = random.randint(1,10)
    l1.append(temp)
print '测试列表长度为：',leng
#first set
last = time.clock()
l2 = list(set(l1))
print l2
now = time.clock()
print '第一种:',now-last

#second
last = time.clock()
l2 =  {}.fromkeys(l1).keys()
print l2
now = time.clock()
print '第二种:',now-last

测试结果：

我们可以看出，当测试列表长度很短时，使用第二种方法较快，在1000时，第一种性能已经超过第二种了，列表越长，第一种方法优势越明显。当频繁的对短列表进行去重时（长度<=1000）建议使用第二种方法，当长度超过1000时建议使用第二种方法。
但归根结底，建议不要用python进行大规模的数据计算，建议使用matlab、或者python的matlab库，毕竟专业的还是厉害。