日常简单函数（爬虫-请求）

最新推荐文章于 2025-01-21 17:02:51 发布

Robin.Liu

最新推荐文章于 2025-01-21 17:02:51 发布

阅读量573

点赞数

分类专栏： python爬虫文章标签：爬虫

本文链接：https://blog.youkuaiyun.com/china_python/article/details/80846494

版权

python爬虫专栏收录该内容

10 篇文章

订阅专栏

本文介绍了一个使用Python实现的网络请求模块，该模块通过requests库发送HTTP请求，并利用fake_useragent库来随机更换User-Agent。为了提高请求的成功率，该模块还实现了重试机制，当请求失败时会自动进行最多五次重试。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

请求数据

# coding=utf-8
import requests
from fake_useragent import UserAgent


# 私有请求模块
def _request(url, times=0, type='text'):
    Retry_times = 5  # 重试次数
    try:
        res = requests.get(url, headers={
            'User-Agent': UserAgent().random
        }, timeout=3)
        if type == 'text':
            return res.text
        if type == 'byte':
            return res.content
    except:
        times += 1
        return _request(url, times) if times <= Retry_times else None