Python爬虫面试【19题】

最新推荐文章于 2022-09-20 14:30:08 发布

原创

最新推荐文章于 2022-09-20 14:30:08 发布 · 679 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#chrome #python #爬虫 #面试

本文介绍了Python爬虫面试中的19个关键问题，包括邮箱正则表达式、requests携带header的原因、反爬虫策略及其应对方法、Selenium与PhantomJS的结合使用、分布式爬虫的原理，以及urllib与urllib2的区别、robots协议、爬虫流程、HTTP请求和响应等基础知识。同时，探讨了MySQL索引失效的情况、Scrapy框架的优缺点和HTTPS的安全传输机制。

1. 写一个邮箱地址的正则表达式？

[A-Za-z0-9\u4e00-\u9fa5]+@[a-zA-Z0-9_-]+(\.[a-zA-Z0-9_-]+)+$

2. 谈一谈你对 Selenium 和 PhantomJS 了解

Selenium 是一个Web 的自动化测试工具，可以根据我们的指令，让浏览器自动加载页面，获取需要的数据，甚至页面截屏，或者判断网站上某些动作是否发生。Selenium 自己不带浏览器，不支持浏览器的功能，它需要与第三方浏览器结合在一起才能使用。但是我们有时候需要让它内嵌在代码中运行，所以我们可以用一个叫 PhantomJS 的工具代替真实的浏览器。Selenium库里有个叫 WebDriver 的API。WebDriver 有点儿像可以加载网站的浏览器，但是它也可以像BeautifulSoup 或者其他Selector 对象一样用来查找页面元素，与页面上的元素进行交互 (发送文本、点击等)，以及执行其他动作来运行网络爬虫。

PhantomJS是一个基于 Webkit 的“无界面”(headless)浏览器，它会把网站加载到内存并执行页面上的 JavaScript，因为不会展示图形界面，所以运行起来比完整的浏览器要高效。相比传统的Chrome或 Firefox 浏览器等，资源消耗会更少。

如果我们把 Selenium 和 PhantomJS 结合在一起，就可以运行一个非常强大的网络爬虫了，这个爬虫可以处理 JavaScrip、Cookie、headers，以及任何我们真实用户需要做的事情。主程序退出后，selenium 不保证 phantomJS 也成功退出，最好手动关闭 phantomJS 进程。（有可能会导致多个 phantomJS 进程运行，占用内存）。WebDriverWait 虽然可能会减少延时，但是目前存在 bug（各种报错），这种情况可以采用 sleep。phantomJS爬数据比较慢，可以选择多线程。如果运行的时候发现有的可以运行，有的不能，可以尝试将 phantomJS 改成 Chrome。

3. 为什么 requests 请求需要带上 header？

原因是

最低0.47元/天解锁文章