Scrapy爬虫学习(一)

本文详细介绍Scrapy爬虫框架的环境配置过程,包括Lxml、zope.interface、pyOpenSSL、twisted、pywin32及Scrapy库的安装步骤。
部署运行你感兴趣的模型镜像

使用Scrapy爬虫需要依赖比较多的库,所以在使用之前要把环境配置好

Lxml库

这是学习爬虫最基础的库了,应该不用多说。

zope.interface

这个库直接使用命令提示符安装,在命令提示符界面输入:pip3 install zope.interface。

pyOpenSSL

这个和上面的一样,直接在命令提示符界面输入:pip3 install pyOpenSSL。

twisted

这个库不能通过pip安装,需要进入http://www.lfd.uci.edu/~gohlke/pythonlibs/下载至本地(注意选择与本机相对应的版本)

安装whl需要wheel库,之前学习爬虫时已经安装了wheel库,所以跳过。

下载后进入存放whl的文件夹,我这里是放在H盘的根目录。

打开命令提示符输入h:(大小写都行),进入H盘。

进入后输入pip3 install Twisted-18.7.0-cp36-cp36m-win_amd64.whl(后面是文件名)。

等待安装完成即可。

pywin32

跟twisted的安装方法一样,但是在导入的时候会出错,需要在你python的安装目录下找到包的文件夹。

将这两个文件复制到C:\Windows\System32下

Scrapy

以上的库安装完了以后,通过PIP安装Scrapy爬虫框架

在命令提示符界面输入:pip3 install scrapy

至此,所有的库安装完毕。

 

您可能感兴趣的与本文相关的镜像

ACE-Step

ACE-Step

音乐合成
ACE-Step

ACE-Step是由中国团队阶跃星辰(StepFun)与ACE Studio联手打造的开源音乐生成模型。 它拥有3.5B参数量,支持快速高质量生成、强可控性和易于拓展的特点。 最厉害的是,它可以生成多种语言的歌曲,包括但不限于中文、英文、日文等19种语言

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值