scrapy通用随机下载延迟、IP代理、UA

最新推荐文章于 2023-05-16 17:04:23 发布

走在下雨天的人

最新推荐文章于 2023-05-16 17:04:23 发布

阅读量4.1k

点赞数 1

CC 4.0 BY-SA版权

分类专栏：爬虫 python

本文链接：https://blog.youkuaiyun.com/qq_42988748/article/details/84493004

本文介绍了如何在Scrapy爬虫项目中配置随机下载延迟，以避免频繁请求导致的封禁问题。同时，详细阐述了设置IP代理和User-Agent的方法，以增强爬虫的匿名性和多样性，确保爬取过程更加稳定。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在这里插入图片描述

main.py文件

# -*- coding:utf-8 -*-

from scrapy import cmdline

cmdline.execute('scrapy crawl test'.split())

settings.py文件

# -*- coding: utf-8 -*-

BOT_NAME = 'mytest'

SPIDER_MODULES = ['mytest.spiders']
NEWSPIDER_MODULE = 'mytest.spiders'

# Crawl responsibly by identifying yourself (and your website) on the user-agent
#USER_AGENT = 'mytest (+http://www.yourdomain.com)'

# Obey robots.txt rules
ROBOTSTXT_OBEY = False

#随机下载延迟
RANDOM_DELAY = 2

DOWNLOADER_MIDDLEWARES = {
   # 'mytest.middlewares.MytestDownloaderMiddleware': 543,
   'mytest.middlewares.RandomDelayMiddleware': 100,
   'mytest.middlewares.UserAgentMiddleware': 100,
   # 'mytest.middlewares.ProxyMiddleware': 100,
}
# 代理IP池
PROXIES =['http://47.94.230.42:9999','http://117.87.177.58:9000',
          'http://125.73.220.18:49