Python爬虫知识概述

前言

经过一段时间摸索爬虫，现在对python 爬虫整个知识框架进行一个总结

---

一、Python 爬虫知识架构图

1. 我将爬虫技术分为两个业务场景，一个是静态页面数据，另一个是有ajax、js动态加载之后的网页数据
2. 爬虫技术我将之分为两大类，一类为网页URL处理与下载技术（urlib、requests、selenium等），另一类为数据数据解析技术（re、lxml、bs4、selenium等）
3. 为了方便、快速开发网络爬虫，对底层url处理与数据处理进行高层次封装，引出scripy框架。基于框架开发，方便、省力。

二、Python 爬虫

1. 爬虫基础技术

urllib库博客：