日常简单函数（爬虫-请求）

最新推荐文章于 2025-01-21 17:02:51 发布

原创最新推荐文章于 2025-01-21 17:02:51 发布 · 591 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#爬虫

python爬虫专栏收录该内容

10 篇文章

订阅专栏

本文介绍了一个使用Python实现的网络请求模块，该模块通过requests库发送HTTP请求，并利用fake_useragent库来随机更换User-Agent。为了提高请求的成功率，该模块还实现了重试机制，当请求失败时会自动进行最多五次重试。

请求数据

# coding=utf-8
import requests
from fake_useragent import UserAgent


# 私有请求模块
def _request(url, times=0, type='text'):
    Retry_times = 5  # 重试次数
    try:
        res = requests.get(url, headers={
            'User-Agent': UserAgent().random
        }, timeout=3)
        if type == 'text':
            return res.text
        if type == 'byte':
            return res.content
    except:
        times += 1
        return _request(url, times) if times <= Retry_times else None