Python按行读文件

最新推荐文章于 2023-09-26 15:37:28 发布

grantlee1988

最新推荐文章于 2023-09-26 15:37:28 发布

阅读量513

点赞数

分类专栏： python 文章标签： python file 测试

python 专栏收录该内容

15 篇文章

订阅专栏

本文对比了Python中常见的几种文件读取方法，包括基本读取、使用fileinput模块和带缓存的文件读取，并通过实际测试数据展示了它们在效率上的差异。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1. 最基本的读文件方法：

         # File: readline-example-1.py 
        
         file 
          = 
         open
         (
         "sample.txt"
         ) 
        
         while 
          1
         : 
        
         line 
         = 
         file
         .readline() 
        
         if 
         not 
         line: 
        
         break
        
         pass 
         # do something

　　一行一行得从文件读数据，显然比较慢；不过很省内存。

　　在我的机器上读10M的sample.txt文件，每秒大约读32000行

2. 用fileinput模块

         # File: readline-example-2.py 
        
         import 
          fileinput 
        
         for 
          line 
         in 
         fileinput.
         input
         (
         "sample.txt"
         ): 
        
         pass

　　写法简单一些，不过测试以后发现每秒只能读13000行数据，效率比上一种方法慢了两倍多……

3. 带缓存的文件读取

         # File: readline-example-3.py 
        
         file 
          = 
         open
         (
         "sample.txt"
         ) 
        
         while 
          1
         : 
        
         lines 
         = 
         file
         .readlines(
         100000
         ) 
        
         if 
         not 
         lines:  
        
         break
        
         for 
         line 
         in 
          lines: 
        
         pass 
         # do something

　　这个方法真的更好吗？事实证明，用同样的数据测试，它每秒可以读96900行数据！效率是第一种方法的3倍，第二种方法的7倍！

————————————————————————————————————————————————————————————

　　在Python 2.2以后，我们可以直接对一个file对象使用for循环读每行数据：

         # File: readline-example-5.py 
        
         file 
          = 
         open
         (
         "sample.txt"
         ) 
        
         for 
          line 
         in 
          file
         : 
        
         pass 
         # do something

　　而在Python 2.1里，你只能用xreadlines迭代器来实现：

         # File: readline-example-4.py 
        
         file 
          = 
         open
         (
         "sample.txt"
         ) 
        
         for 
          line 
         in 
          file
         .xreadlines(): 
        
         pass 
         # do something