pthon网络爬虫爬取top250电影相关信息,步骤清晰,适合初学者

先放完整代码,再分函数解释

import re
import urllib.request
from  bs4 import  BeautifulSoup
import random
import xlwt
import time
def main():
    url = #先去把top250的网页拿来,放在""中
    get_url(url)
    get_data(url)
    save_data(datalist=get_data(url),savepath="D:\谷歌下载\电影Top250.xls")
	#save_data(savepath="电影Top250.db",datalist=get_data(url))	#这是保存到数据库
def get_url(url):
    head={
   "User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/103.0.0.0 Safari/537.36"}
    request = urllib.request.Request(headers=head,url=url)
    response = urllib.request.urlopen(request)
    html = response.read().decode('utf-8')
    return html

def get_data(url):
    datalist=[]
    for i in range (0,10):
        baseurl = url + str(i*25)
        html = get_url(baseurl)
        html = BeautifulSoup(html,"html.parser")
        time.sleep(random.randint(0,
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值