最近没什么事情,准备重新看一遍以前一知半解的爬虫
功能:以一个起始页开始,通过爬取网页简介的返回一个百度百科简介部分的,包含全部链接的列表,并且通过随机数,随机选取一个网站进入之后打印这个网站标题重复上述步骤递归,直到碰到一个简介中没有一个链接的百度百科网页
这里选择的初始百度百科网页是《JOJO的奇妙冒险》的百度百科,针对随机数选取采用的是随机数种子的做法,可以保证只要种子相同每次运行返回的网页标题就是相同的“随机的”网页
首先观察一下百度百科的html
可以看出来,简介部分的链接都是在div标签的里面并且用<a标签定义
之后代码如下
import random
import re
#import datetime#也可以用当前时间作为种子输入
from urllib.request import urlopen
from bs4