使用Nginx过滤网络爬虫

现在的网络爬虫越来越多，有很多爬虫都是初学者写的，和搜索引擎的爬虫不一样，他们不懂如何控制速度，结果往往大量消耗服务器资源，导致带宽白白浪费了。

其实Nginx可以非常容易地根据User-Agent过滤请求，我们只需要在需要URL入口位置通过一个简单的正则表达式就可以过滤不符合要求的爬虫请求：

Python

... location / { if ($http_user_agent ~* "<span class="wp_keywordlink"><a href="http://www.168seo.cn/python" title="python">python</a></span>|curl|java|wget|httpclient|okhttp") { return 503; } # 正常处理 ... } ...

1 2 3 4 5 6 7 8 9

. . .      location / {          if ( $ http_user_agent ~ * "python|curl|java|wget|httpclient|okhttp" ) {              return 503 ;          }          # 正常处理          . . .      }      . . .

变量$http_user_agent是一个可以直接在location中引用的Nginx变量。~*表示不区分大小写的正则匹配，通过python就可以过滤掉80%的Python爬虫。

• zeropython 微信公众号 5868037 QQ号 5868037@qq.com QQ邮箱