python抓网页,主要用到了PyQuery,这个跟jQuery用法一样,超级给力
贴代码
#-*- encoding:utf-8 -*-
import sys
import locale
import string
import traceback
import datetime
import urllib2
from pyquery import PyQuery as pq
# 确定运行环境的encoding
reload(sys);
sys.setdefaultencoding('utf8');
f = open('gongsi.csv', 'w');
for i in range(1,24):
d = pq(url="http://www.weain.mil.cn/cgcms/Enterprise/lingYu?Code=HANGYELINGYU&myFlag=allShow&SiteID=122&PageIndex=%d"%(i));
itemsa=d('dl dt a') #取title元素
itemsb=d('dl dd') #取title元素
for j in range(0,len(itemsa)):
f.write("%s,\"%s\"\n"%(itemsa[j].get('title'),itemsb[j*2].text));
#end for
#end for
f.close();
接下来就是用Notepad++打开gongsi.csv,然后转成ANSI编码格式,保存。再用Excel软件打开这个csv文件,另存为Excel文件
本文详细介绍了如何使用Python的PyQuery库抓取特定网页数据,并将其导出为CSV文件,便于后续处理和分析。通过实例演示了从网页中获取企业名录信息的过程,包括设置URL、解析页面内容、提取所需数据并进行编码转换。
1万+

被折叠的 条评论
为什么被折叠?



