python+fiddler实战——3.爬虫京东网站

本文介绍了使用Python结合Fiddler爬取京东电影排行榜数据的实战过程,包括设置访问网址、解析页面、正则匹配信息,并通过单线程和多线程方式抓取数据,最后将数据保存到CSV文件中。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

import requests
from requests.exceptions import RequestException
import re
import csv
import threadpool#需要先安装:pip install threadpool
#文件保存路径
path=‘E:\data.csv’
#访问网址
baseUrl = ‘https://maoyan.com/board/4?offset=

def parseOnePage(url):
try:
response = requests.get(url)
except RequestException:
print(url+‘url请求发生异常’)
return None
if response.status_code!=200:
print(‘状态码不为200,’+url+’ 响应异常’)
return None
else:#正常响应
html = response.text
pattern = re.compile(#正则表达式

. ?board-index.?>(\d+). ?class=“name”>?<a. ?>(.?). ?class=“star”>(.?)

. ?“releasetime”>(.?). ?class=“score”.?“integer”>(. ?).?“fraction”>(.
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值