一个简单的Python爬虫案例代码

一个简单的Python爬虫案例代码。这个例子使用了requests库来获取网页内容,并使用BeautifulSoup库来解析HTML文档,提取所需信息。如果你还没有安装这两个库,可以通过运行pip install requests beautifulsoup4来安装它们。

以下是一个简单的爬虫示例,它会抓取一个指定网页的所有标题(假设标题都在<h2>标签中):

import requests
from bs4 import BeautifulSoup

def fetch_titles(url):
    try:
        # 发送HTTP请求
        response = requests.get(url)
        # 检查请求是否成功
        if response.status_code == 200:
            # 使用BeautifulSoup解析HTML文档
            soup = BeautifulSoup(response.text, 'html.parser')
            # 查找所有<h2>标签
            titles = soup.find_all('h2')
            # 打印每个标题的文本
            for title in titles:
                print(title.get_text())
        else:
            print(f"Failed to retrieve the webpage. Status code: {response.status_code}")
    except Exception as e:
        print(f"An error occurred: {e}")

# 要爬取的网页URL
url = "https://example.com"
fetch_titles(url)

这段代码定义了一个名为fetch_titles的函数,该函数接受一个URL作为参数,然后发送请求获取网页内容。如果请求成功,它将使用BeautifulSoup解析返回的HTML,并查找所有的<h2>标签。最后,它会打印出每个找到的标题文本。

请注意,实际使用时需要根据目标网站的具体结构调整选择器(例如<h2>标签),以准确地提取你想要的信息。此外,进行网络爬虫活动时,请务必遵守目标网站的robots.txt规则和相关法律法规。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

鹿屿二向箔

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值