python3网络爬虫(4):python3安装Scrapy

本文介绍Scrapy爬虫框架的基本概念及其安装步骤。Scrapy是一个强大的爬虫框架,适用于数据挖掘、信息处理等场景。文章详细描述了在Windows环境下使用PyCharm和Python 3.5.2进行Scrapy的安装过程。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

运行平台:  Windows

python版本:  python3.5.2

IDE:     pycharm

一、Scrapy简介

  Scrapy是一个为了爬取网站数据提取结构性数据而编写的应用框架,可以应用于数据挖掘,信息处理或存储历史数据等一系列的程序中。自己写的Python爬虫程序好比孤军奋战,而使用了Scrapy就好比手下有了千军万马。Scrapy可以起到事半功倍的效果

二、Scrapy安装

  1.查看python版本

    cmd中输入python,查看python版本,可以看到我的是3.5.2   64位

  

  2.找到对应版本的第三方库搜索Lxml、Twisted、Scrapy,下载对应版本

    

    

 

       

 

   3.cmd进入文件所在的位置,依次执行如下命令(我开始用的pwershell装的,到scrapy那个失败了,才换回的cmd,所以有两个提示已经安装了)

    (1)pip3 install wheel

 

 

    (2)pip3 install lxml   tab补齐

 

 

    (3)pip3 install Twisted tab补齐

 

 

 

    (4)pip3 install Scrapy tab补齐

 

   4.Scrapy安装完成后,还需要安装pywin32

一路下一步就OK

 

转载于:https://www.cnblogs.com/MC-Curry/p/8503813.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值