python编程篇之爬虫(五)

本文介绍了一种使用Python爬取糗事百科网站上的段子的方法。通过模拟浏览器行为,利用正则表达式提取段子作者及内容,并实现了多页内容的爬取。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

爬取糗事百科段子

import urllib.request
import re

def getContent(url,page):
    # 模拟成浏览器
    headers = ("User-Agent","Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.62 Safari/537.36")
    opener = urllib.request.build_opener()
    opener.addheaders = [headers]
    # 将opener安装为全局
    urllib.request.install_opener(opener)
    data = urllib.request.urlopen(url).read().decode("utf-8")
    # 构建对应用户提取的正则表达式
    userPat = 'target="_blank" title="(.*?)">'
    # 构建段子内容提取的正则表达式
    contentPat = '<div class="content">(.*?)</div>'
    # 寻找出所有的用户
    userList = re.compile(userPat,re.S).findall(data)
    # 寻找出所有的内容
    contentList = re.compile(contentPat,re.S).findall(data)

    x = 1
    # 通过for循环遍历段子内容并将内容分别赋给对应的变量
    for content in contentList:
        content = content.replace("\n","")
        # 用字符串作为变量名,先将对应字符串赋给一个变量
        name = "content"+str(x)
        # 通过exec()函数实现用字符串作为变量名并赋值
        exec(name+'=content')
        x += 1

    y = 1
    #通过for循环遍历用户,并输出该用户对应的内容
    for user in userList:
        name = "content"+str(y)
        print("用户"+str(page)+str(y)+"是:"+user)
        print("内容是:")
        exec("print("+name+")")
        print("\n")
        y += 1

# 分别获取各页的段子,通过for循环可以获取多页
for i in range(1,30):
    url = "http://www.qiushibaike.com/8hr/page/"+str(i)
    getContent(url,i)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值