第一个爬虫小程序

import requests
from bs4 import BeautifulSoup
headers={"User-Agent":'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/128.0.0.0 Safari/537.36 Edg/128.0.0.0'}
#伪装为一个正常的用户,防止网站拦截爬虫
for start_num in range(0,250,25):
    #改变网站
    response = requests.get("https://movie.douban.com/top250?start={}&filter=".format(start_num), headers=headers)
    if response.ok:#访问成功则执行
        print("successful")
        html = response.text
        soup = BeautifulSoup(html, "html.parser")
        all_title = soup.find_all('span', attrs={"class": "title"})
        for title in all_title:
            title_string = title.string
            if '/' not in title_string:
                print(title_string)
    else:
         print("fail")

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值