今天在尝试使用Python抓取网页中内容的时候,遇到了一个问题-就是控制台中文输出乱码的问题。
解决如下:首先需要下载Python的第三方库chardet,下载地址为:http://download.youkuaiyun.com/download/aqwd2008/4256178 ,下载后解压,复制文件夹中的chardet文件夹到Python安装目录下的Lib的site-packages目录下。
然后实现转码,首先当然是引用库
import urllib
import re
import sys
import chardet
我们可以先了解自己系统默认编码方式和网页编码方式:
url = '要获取内容的网址....'
page = urllib.urlopen(url)
respond = page.read()
print 'System default encoding: ',sys.getfilesystemencoding()
print 'Html is encoding by : %',chardet.detect(respond)
从图片可知,系统默认编码方式为mbcs,网页编码方式为utf-8
所以,我们要实现转码:
respond.decode('utf-8').encode('mbcs')
字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。