
爬虫
myarche
这个作者很懒,什么都没留下…
展开
-
Python scrapy 爬虫框架学习笔记
早在去年,根据搜索的相关资料,已经写出了一部分针对某些网站的爬虫,但是学习的不系统,全部是根据自己搜索由来而做的,对很多较深的原理并不是太懂,这两天找了一套视频,在深入的学习一下。官网:https://scrapy.org/安装就不说了,参考官网,我自己是 Windows7 环境,安装的是 python 环境是 Anaconda3 (64-bit)2.初步使用 scrapy新...原创 2020-02-07 17:33:02 · 609 阅读 · 0 评论 -
Linux 下 Selenium Python Chrome 环境搭建
一直在window下进行爬虫抓取数据,但是因为国内网络的环境独特性,今天就考虑放到海外服务器上进行抓取PS:因为之前用的Centos X86 32位的,一路没少踩坑,所以各种限制,各种坑,刚刚重装了服务器系统PS:python2 版本也是可以的,安装scrapy也容易,关键就在于selenium.webdriver这个兼容,因为有些抓取于面需要模拟浏览器点击等行为。PS:服务器为裸机,...原创 2019-05-07 20:49:54 · 3197 阅读 · 0 评论