python实现爬取下一页------递归篇

最新推荐文章于 2021-07-08 10:55:05 发布

罚酒饮得

最新推荐文章于 2021-07-08 10:55:05 发布

阅读量1.1k

点赞数

分类专栏：爬虫 python 文章标签： python xpath

本文链接：https://blog.youkuaiyun.com/qq_38220144/article/details/107574511

版权

python 同时被 2 个专栏收录

8 篇文章

订阅专栏

爬虫

7 篇文章

订阅专栏

本文介绍了一种爬取动态加载网站的方法，通过设置网页请求延时，利用XPath解析网页元素，实现对特定类名下的标题和链接的抓取。此外，还展示了如何递归地抓取下一页的内容，直到没有更多页面为止。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

def get_detail(url,dbs):
    #每个网页设置延时
    time.sleep(random.random() * 3)
    selector = comp(url)
    title_url = selector.xpath('//div[@class="topic_list_detail"]//a[@class="title"]/@href')
    title_title = selector.xpath('//div[@class="topic_list_detail"]//a[@class="title"]/text()')
    try:
        for index in range(len(title_url)):
            result_url = "https://www.chineseinla.com" + title_url[index]
            result = {'标题': title_title[index], 'url': result_url}
            dbs.insert_one(result)
        nexturl = selector.xpath('//div[@class="topic_option_right pagination_right"]/a[last()]/@href')
        next_text = selector.xpath('//div[@class="topic_option_right pagination_right"]/a[last()]/text()')
        print("下一页为:{}".format(nexturl))
        print(next_text)
        if not nexturl:
            return
        elif next_text[0] == "下一页":
            next_url = "https://www.chineseinla.com" + nexturl[0]
            get_detail(next_url, dbs)
        else:
            return
    except Exception as e:
        print(e)