python codecs.open()及文件操作-文本处理 with_文件操作小结

20220926

https://blog.youkuaiyun.com/m0_37816922/article/details/120934686
python中的open用法详解

20220519

https://blog.youkuaiyun.com/weixin_54496560/article/details/114535459
文件删除

20220424

在这里插入图片描述
txt的最后一个结尾符号要放到新的一行,不要最后字符的后面
处理的时候容易把最后的词语抹掉

20210810

在这里插入图片描述
以二进制并追加的形式写入文件

20210731

f.write(‘\n’)
换行写入

20210625

https://blog.youkuaiyun.com/a543402496/article/details/78747305
python:大文件迭代器,GB级别,read(),readline(),readlines()以及语法糖with open()

read(size)当size不指定时,会将文件全部内容读取
readline()一次只读取一行即遇到‘\n’返回
readlines()读取整个文件,并返回列表,一行为一个元素

https://blog.youkuaiyun.com/qq_41717584/article/details/83241243
python中open() read() readline() readlines()方法详解

20210222

https://www.cnblogs.com/yc3110/p/10620483.html
读写参数

path='./../../data/test/'
save=open(path+'text_ready','a+')   #追加方式写入
i=0
with open(path+'test.txt','r') as read:  #读出
        for line in read:
           if i <10:
             line=line.replace(' ',',')
             save.write(line)
           else:
              break
save.close()


版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接: https://blog.youkuaiyun.com/weay/article/details/80946152

文件读取:

codecs.open(filepath,method,encoding)

filepath--文件路径

method--打开方式,r为读,w为写,rw为读写

encoding--文件的编码,中文文件使用utf-8

一. python打开文件代码如下:

f = open("d:\test.txt", "w")
    

说明:
第一个参数是文件名称,包括路径;
第二个参数是打开的模式mode

'r':只读(缺省。如果文件不存在,则抛出错误)
'w':只写(如果文件不存在,则自动创建文件)
'a':附加到文件末尾
'r+':读写 

如果需要以二进制方式打开文件,需要在mode后面加上字符"b",比如"rb""wb"等

二、python读取文件内容f.read(size)

参数size表示读取的数量,可以省略。如果省略size参数,则表示读取文件所有内容。

f.readline()读取文件一行的内容 f.readlines()读取所有的行到数组里面[line1,line2,...lineN]。

在避免将所有文件内容加载到内存中,这种方法常常使用,便于提高效率。

三、python写入文件f.write(string)

将一个字符串写入文件,如果写入结束,必须在字符串后面加上"\n",然后f.close()关闭文件

四、文件中的内容定位

f.read()读取之后,文件指针到达文件的末尾,如果再来一次f.read()将会发现读取的是空内容,如果想再次读取全部内容,必须将定位指针移动到文件开始:

f.seek(0)
    

这个函数的格式如下(单位是bytes):f.seek(offset, from_what) from_what表示开始读取的位置,offset表示从from_what再移动一定量的距离,比如f.seek(10, 3)表示定位到第三个字符并再后移10个字符。

from_what值为0时表示文件的开始,它也可以省略,缺省是0即文件开头。下面给出一个完整的例子:


    
  1. f = open ( '/tmp/workfile' , 'r+' )
  2. f . write ( '0123456789abcdef' )
  3. f . seek ( 5 ) # Go to the 6th byte in the file
  4. f . read ( 1 )
  5. f . seek (- 3 , 2 ) # Go to the 3rd byte before the end
  6. f . read ( 1 )

五、关闭文件释放资源文件操作完毕,一定要记得关闭文件f.close(),可以释放资源供其他程序使

只是ASCII或者gbk编码格式的的文件读写,比较简单,读写如下:


    
  1. # coding=gbk
  2. f = open ( 'c:/intimate.txt' , 'r' ) # r 指示文件打开模式,即只读
  3. s1 = f . read ()
  4. s2 = f . readline ()
  5. s3 = f . readlines () #读出所有内容
  6. f . close ()
  7. f = open ( 'c:/intimate.txt' , 'w' ) # w 写文件
  8. 11 f . write ( s1 )
  9. 12 f . writelines ( s2 ) # 没有writeline
  10. 13 f . close ()

六. f.writelines不会输出换行符。

python unicode文件读写:


    
  1. # coding=gbk
  2. import codecs
  3. f = codecs . open ( 'c:/intimate.txt' , 'a' , 'utf-8' )
  4. f . write ( u '中文' )
  5. s = '中文'
  6. f . write ( s . decode ( 'gbk' ))
  7. f . close ()
  8. f = codecs . open ( 'c:/intimate.txt' , 'r' , 'utf-8' )
  9. s = f . readlines ()
  10. f . close ()
  11. for line in s :
  12. print line . encode ( 'gbk' )

python代码文件的编码

py文件默认是ASCII编码,中文在显示时会做一个ASCII到系统默认编码的转换,这时就会出错:SyntaxError: Non-ASCII character。需要在代码文件的第一行或第二行添加编码指示:

  1. # coding=utf-8 ##以utf-8编码储存中文字符
  2. print '中文'像上面那样直接输入的字符串是按照代码文件的编码来处理的,如果用unicode编码,有以下2种方式:
    1. s1 = u'中文' #u表示用unicode编码方式储存信息
    2. s2 = unicode('中文','gbk')

unicode是一个内置函数,第二个参数指示源字符串的编码格式。

decode是任何字符串具有的方法,将字符串转换成unicode格式,参数指示源字符串的编码格式。

encode也是任何字符串具有的方法,将字符串转换成参数指定的格式。

python字符串的编码

用 u'汉字' 构造出来的是unicode类型,不用的话构造出来是str类型

str的编码是与系统环境相关的,一般就是sys.getfilesystemencoding()得到的值

所以从unicode转str,要用encode方法

从str转unicode,所以要用decode

例如:


    
  1. # coding=utf-8 #默认编码格式为utf-8
  2. s = u '中文' #unicode编码的文字
  3. print s . encode ( 'utf-8' ) #转换成utf-8格式输出
  4. print s #效果与上面相同,似乎默认直接转换为指定编码

我的总结:


    
  1. u = u 'unicode编码文字'
  2. g = u . encode ( 'gbk' ) #转换为gbk格式
  3. print g #此时为乱码,因为当前环境为utf-8,gbk编码文字为乱码
  4. str = g . decode ( 'gbk' ). encode ( 'utf-8' ) #以gbk编码格式读取g(因为他就是gbk编码的)并转换为utf-8格式输出
  5. print str #正常显示中文

安全的方法:

s.decode('gbk','ignore').encode('utf-8′) #以gbk编码读取(当然是读取gbk编码格式的文字了)并忽略错误的编码,转换成utf-8编码输出 

因为decode的函数原型是decode([encoding], [errors='strict']),可以用第二个参数控制错误处理的策略,默认的参数就是strict,代表遇到非法字符时抛出异常;

如果设置为ignore,则会忽略非法字符; 
如果设置为replace,则会用?取代非法字符; 
如果设置为xmlcharrefreplace,则使用XML的字符引用。

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接: https://blog.youkuaiyun.com/xinjieyuan/article/details/99344862

啥也别说了,用codecs.open()就完事了

写贴原因

因为接触Python时候已经是Python3.x的年代了,用的文件操作最多的就是with open() as file_:这一段话,但是在自然语言处理过程中每次都出现报错,一般都是写入时候或者读取时候说编码错误。大多数时候处理方法是转码,
也就是

input --- encode --- unicode --- output

   
  • 1

这样是有问题的,因为文本的数据过大会很久。
无意中发现了python2.x年代的codecs.open()这一方法。他有一个非常重要的特性是:读取文件内容时候,会自动转换为内部的unicode

好处
1.兼容open()函数所有操作命令。
2.指定用什么读取编码,就用什么编码读取和操作,无需担心编码问题。
3.速度是一样的。

函数解说


使用格式

with codecs.open(file=源文件,mode='命令',encoding='编(解)码方式') as 命名:

   
  • 1

常见指令
模式分两种:只读模式只写模式读、写模式

指令作用建议、注意事项
r只读模式打开文件
rb二进制只读模型文件保存时的编码格式未知,避免乱码时可使用该命令;使用该命令后,需要转码,转码也要注意乱码问题。
r+读、写模式
rb+二进制读、写模式
w(新建)只写模式文件若存在,首先清空,然后(重新)创建
wb二进制(新建)只写模式
w+读、写模式
wb+二进制读、写模式读取文件报错无法接吗时候,建议使用该模式,但是读取后,需要编码
a追加1.如果文件不存在,将自动被创建; 2.文件存在,结尾处继续编辑
ab二进制追加
a+读写模式追加
ab+二进制读写模式追加

关于如何用python查看文件的格式编码,可以看查看文件编码


常见编码
这个,计算机支持的,都可以,比如'utf-8'等等

                                </div>
            <link href="https://csdnimg.cn/release/phoenix/mdeditor/markdown_views-095d4a0b23.css" rel="stylesheet">
                </div>![在这里插入图片描述](https://img-blog.csdnimg.cn/20190920144333644.jpg)

在这里插入图片描述
特殊符号的输入 用 正则 而不是直接符号的值输入
在这里插入图片描述
B的空白 控制字符
在这里插入图片描述
在这里插入图片描述
空格替换成\x02 显示效果上也是空白

![在这里插入图片描述](https://img-blog.csdnimg.cn/20191225134645834.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2t5bGUxMzE0NjA4,size_16,color_FFFFFF,t_70

不加r 本身就是正则的表示含义 \x02

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值