09精通Python网络爬虫——糗事百科爬虫实战

运行环境Python3。6.4

目的：爬取糗事百科网页上的一些段子

解决思路：

1）分析各页间的网址规律，构造网址变量，并通过for循环实现多页内容的爬取。

2）构建一个自定义函数，专门用来实现爬取某个网页上的段子，包括两部分内容，一部分是对应用户，一部分是用户发表的段子内容，用户信息和段子内容信息的格式分别写成两个正则表达式。随后根据正则表达式分别提取出来该页中所用的用户与所有的内容，然后通过for循环遍历段子内容并将内容分别赋给对应的变量，这里变量名是有规律的，格式为“content+顺序号”，接下来再通过for循环遍历对应用户，并输出该用户对应的内容。

3）通过for循环分别获取多页的各页url链接，每页分别调用一次getcontent(url,page)函数。

具体代码实现如下

#糗事百科爬虫
import urllib.request
import re

def getcontent(url,page):
    #模拟成浏览器
    headers = ("User-Agent","Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36")
    #使用urllib.request.build_opener()创建自定义的opener对象并赋值给变量opener
    opener = urllib.request.build_opener()
    #设置对应的头信息，格式为："opener对象名.addheaders = [头信息]"
    opener.addheaders = [headers]
    #将opener安装为全局
    urllib.request.install_opener(opener)
    data = urllib.request.urlopen(url).read().decode("utf-8")
    #构建对应用户提取的正则表达式
    userpat = '<h2>(.*?)</h2>\n'
    #构建段子内容的正则表达式
    contentpat = '<div class="content">\n<span>(.*?)\n</span>'
    #寻找出所有的用户
    #re.S将“\n”当做一个普通字符加入到这个字符串中，在整体进行匹配
    userlist = re.compile(userpat,re.S).findall(data)
    #寻找出所有的内容
    contentlist = re.compile(contentpat,re.S).findall(data)
    x = 1
    #for循环遍历段子内容并将内容分别赋给对应的变量
    for content in contentlist:
        content = content.replace("\n"," ")
        #用字符串作为变量名，先将对应字符串赋给一个变量
        name = "content"+str(x)
        #通过exec()函数实现用字符串作为变量名并赋值
        exec(name+'=content')
        x += 1
    y = 1
    #通过for循环遍历用户，并输出该用户对应的内容
    for user in userlist:
        user = user.replace("\n", "")
        name = "content"+str(y)
        print("第"+str(page)+"页用户"+str(y)+"是："+user)
        print("内容是：")
        exec("print("+name+")")
        print("\n")
        y += 1
#分别获取各页的段子，通过for循环可以获取多页
for i in range(2,3):
    url = "https://www.qiushibaike.com/8hr/page/"+str(i)
    getcontent(url,i)

声明：本文是学习笔记，参考书籍为《精通Python网络爬虫》