scrapy框架的安装

Python之Scrapy框架的安装和使用 Scrapy框架是目前Python中最受欢迎的爬虫框架之一,那么我们今天就来具体了解一下Scrapy框架 什么是Scrapy框架?      Scrapy是一个快速、高层次、轻量级的屏幕抓取和web抓取的python爬虫框架 Scrapy的用途:      Scrapy用途非常广泛,主要用于抓取特定web站点的信息并从中提取特定结构的数据,除此之外,还可用于数据挖掘、监测、自动化测试、信息... 阅读详情




首先考虑使用最简单的方法安装

pip install scrapy 
 

命令安装,提示 

 Failed building wheel for Twisted

Microsoft Visual C++ 14.0 is required…

1、直接使用pip install scrapy安装不成功可以安装whl格式的包

首先下载scrapy的whl包

下载地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/

在网页中搜索scrapy找到



    • Scrapy‑1.3.3‑py2.py3‑none‑any.whl

    • 下载了scrapy的whl包先不要着急安装,接着 

    • 2、安装whl格式包需要安装wheel库

    • 可以直接使用pip install wheel安装wheel

    • 没有安装过wheel库的请先安装。

3、scrapy依赖twiste,同样使用whl格式的包进行安装

还是进入http://www.lfd.uci.edu/~gohlke/pythonlibs/,在网页中搜索twisted找到其对应的whl包并下载

根据你的Python的版本选择合适的包,名称中间的cp36是python3.6的意思,amd64是python的位数


下载完成后使用cmd打开windows的命令行窗口,进入whl包所在的文件夹执行如下命令

pip install [whl]

[whl]是whl包的名字,即:

pip install Twisted-17.1.0-cp36-cp36m-win_amd64.whl
 


Scrapy-1.3.3-py2.py3-none-any.whl包使用同样的方式安装,只是应该等到其所有依赖的包安装完成后才能进行安装,现在还不能安装

4、scrapy依赖lxml包,需要先安装lxml包,可以直接使用pip install lxml

5、所有准备工作做完,终于可以安装scrapy包了,进入Scrapy-1.3.3-py2.py3-none-any.whl所在的目录

pip install Scrapy-1.3.3-py2.py3-none-any.whl
 


Successfully !,是否真的安装成功了,还需要验证,输入scrapy -h


显示scrapy的相关信息

Scrapy框架的安装 虚拟环境允许您不与已安装的 Python 冲突 系统包(可能会破坏您的一些系统工具和脚本), 并且仍然正常安装带有(没有等)的软件包。构建 Scrapy 的依赖项需要 C 编译器的存在,并且 开发标头。出现此异常的原因是您的系统或虚拟环境 具有您的 Twisted 版本不支持的 pyOpenSSL 版本。此方法是解决上述macOS问题的解决方法,但它是一个整体 管理依赖关系的良好做法,可以补充第一种方法。请注意,有时这可能需要解决某些 Scrapy 的编译问题 依赖项取决于您的操作系统,因此请务必查看。 阅读详情

相关推荐

Python爬虫之Scrapy框架系列(1)——初识Scrapy框架【安装+简介+运行流程+组件介绍】

Python爬虫之Scrapy框架系列(1)——初识Scrapy框架【安装+简介+运行流程+组件介绍】

孤寒者的博客 3万+

Windows pip 安装 scrapy 失败报 Twisted 安装错误 --使用 Wheel 安装解决

废话 最近想要搞一下爬虫,于是准备搞一下 Scrapy,但是安装上就遇到了坑 处理 直接安装会在安装 Twisted 出现错误,无论如何安装不上, 后来发现是由于系统的版本与其默认的版本不一致,我以为是 64位的但是其实不是,我们可以通过 platform 来确认自己的系统, 新建一个 python 文件输入如下内容 import platform print(platfor...

SmileSB101-(ZXB)的博客 1873

MPN – 制造商物料编号(延伸)

此外,用户还可以在物料主数据中定义阻止MPN材料的原因,以及在采购订单创建时,是否可以将现有的MPN材料修改为其他MPN材料,从而实现对MPN材料的精细控制和管理。通过使用AMPL,用户可以指定每个MPN材料是否仅能为特定工厂或整个企业所有工厂采购、采购的时间段、是否必须属于特定修订级别、是否只能从特定制造商工厂采购以及是否被阻止及其原因。通过AMPL管理,企业可以规范采购流程,避免使用未经批准的材料,从而提高采购的透明度和效率,同时也为质量控制提供了保障‌。3、QM中的制造商物料。质量信息记录QI01。

yanzibing99的博客 2487

Scrapy架构下载及安装

Scrapy架构下载 pip install scrapy 下载安装成功查看:会显示版本号 scrapy 图片: 如果安装失败 1.缺少什么文件执行下面: pip install wheel 2.在windows环境,python下使用命令行安装模块 pip install Twisted 如果报错 Unable to find vcvarsall.bat ...

Black_God1的博客 492

SQL-拼多多 面试题:连续3次为球队得分的球员名单

1.使用LAG开窗函数 筛选出 下一次和下下一次得分,并用进球时间进行排序。2.使用where筛选出值得嘉奖的球员。

Ftr1998的博客 644

Android蓝牙开发—经典蓝牙和BLE(低功耗)蓝牙的区别

      最近在做蓝牙开发,刚接触时傻傻的分不清经典蓝牙和低功耗蓝牙的区别,一直用开发低功耗蓝牙的方法去连接经典蓝牙设备,最后当然是一直连接不上了。在此记录下经典蓝牙和低功耗蓝牙的区别和联系。 Android中的蓝牙         说到Android中的蓝牙,大家听到的可能有蓝牙1.0、蓝牙2.0、蓝牙3.0、蓝牙4.0之类的以数字结尾的蓝牙版本号,而实际上,在最新的标准中,已经不再使用数...

zqf_888的博客 4万+

下载安装scrapy

方法一:用 pip直接下载 import pip !pip install scrapy if 失败(下载一个晚上都没运行结束,放弃) 方法二: 下载scrapy的whl包:Scrapy‑1.6.0‑py2.py3‑none‑any.whl(版本可能有更新,找Scrapy前缀的就OK)。 下载地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/...

qq_38734067的博客 456

Marvell 88Q6113 如何制作一个完整的量产固件88Q6113_flash.bin并进行烧录

本章节介绍如何基于Marvell工具链,制作一个完整的量产固件88Q6113_flash.bin,集成用户自定义的配置文件 config.bin,用于88Q6113的Flash烧录。注:Marvell 88Q5072 与 Marvell 88Q6113 的配置流程是一样的。

老板来份猪脚拼叉烧的博客 2013

scrapy 框架安装

scrapy 框架安装 # 安装 scrapy pip install Scrapy # wheel 库 pip install wheel # 最好离线安装 # scrapy的whl包地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/ # 安装 twisted.whl cmd下 输入 pip list pip list 我这里已经安装了 ...

笑望灬星辰 230

华为OD机试2025C卷 - 字符串解密 (C++ & Python & JAVA & JS & GO)

华为OD机试 2025C卷 字符串解密,提供Java、C++、Python、Go、JavaScript源码实现,并提供完整思路讲解

qq_45776114的博客 978

高性能优化的本质

在很早之前,处理器性能的提升一般是通过减小元器件的尺寸,增加元器件的数量,提高主频来实现,这也是摩尔定律所说的,但是由于功耗的影响,主频不能一直增加。后来,由于英伟达的GPU的并行计算的出现,逐渐打破摩尔定律,人们利用多核,SIMD,SIMT来处理大量相同计算的数据,这极大的提高了效率。计算机的算力得到了巨大的提升,但是并行是困难的,对于有数据依赖的程序来说,处理并行是一件及其困难的事,但对于一些简单的数学库的计算,并行的实现相对简单。

发狂的小花的博客 274

python网络爬虫系列教程——Scrapy框架应用全解

全栈工程师开发手册 (作者:栾鹏) python教程全解 安装 在cmd中输入 Scrapy的安装依赖wheel、twiste、lxml包。所以先通过pip install wheel安装wheel库,通过pip install lxml安装lxml库,不过twiste包必须通过离线whl文件安装。 进入http://www.lfd.uci.edu/~gohlke/...

8766

串行RapidIO(Serial RapidIO,SRIO):协议介绍

目录一、RapidIO背景介绍二、RapidIO协议概述2.1 包与控制符号2.2 包格式2.4 消息传递2.5 全局共享存储器2.6 流量控制2.7 串行物理层三、I/O逻辑操作与包格式四、维护操作与包格式五、消息操作与包格式六、总结 本文是基于Xilinx平台SRIO介绍(一)RapidIO协议介绍的内容作读书笔记。 一、RapidIO背景介绍 RapidIO采用三层分级体系结构,包括逻辑层、传输层和物理层该分级结的如下图所示: ● 逻辑层:位于最高层,定义全部协议和包的格式,它们为端点器件发起和完

Starry__的博客 1万+

pycharm 中scrapy框架安装使用

标题 pycharm 中scrapy框架安装使用 一、 爬虫框架Scrapy 1、 使用python语言开发的爬虫组件,可以方便的从网站爬取需要的网页数据. 2、 可以对网页元素进行解析并获取指定的数据,这些数据可以与实体中的属性进行对应。 3、 Scrapy的构成 (1) 爬虫引擎:用于控制整个爬取的流程 (2) 调度器:将请求爬取的网址排列为一个队列。 (3) 下载器:从请求的网址中下载网页内容 (4) 管道:对爬取的数据进行处理(持久化—保存到文件或者数据库中) (5) 爬虫组件:爬取网页中需要的

liuyunaaaaaa的博客 4874

YOLOv8【第二章:卷积创新篇·第23节】一文搞懂,Transformer与卷积混合架构!

🏆 本文收录于 《YOLOv8实战:从入门到深度优化》,该专栏持续复现网络上各种热门内容(全网YOLO改进最全最新的专栏,质量分97分+,全网顶流),改进内容支持(分类、检测、分割、追踪、关键点、OBB检测)。且专栏会随订阅人数上升而涨价(毕竟不断更新),当前性价比极高,有一定的参考&学习价值,部分内容会基于现有的国内外顶尖人工智能AIGC等AI大模型技术总结改进而来,嘎嘎硬核。    ✨ 特惠福利:目前活动一折秒杀价!一次订阅,永久免费,所有后续更新内容均免费阅读!

**My Coding Family** 1389

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

Anaconda安装Scrapy框架

conda install scrapy即可,愿意点进来看我絮叨一会也行呀,开心

莫莫先生的博客 2293

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

windows系统Scrapy框架的安装

Scrapy的安装Scrapy的安装一、Scrapy框架简介安装步骤(准备工作)windows安装scrapy准备工作 Scrapy的安装 一、Scrapy框架简介 Scrapy是Python开发的一个快速、高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化的数据。Scrapy用途广泛,可以用于数据挖掘、监测和自动化测试。 Scrapy吸引人的地方在于它是一个框架,任何人都可以根据需求方便的修改。它也提供了多种类型爬虫的基类,如BaseSpider、sitemap爬虫等,最新版本又提

weixin_44955884的博客 774

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

anaconda安装scrapy_Scrapy框架的安装

说起爬虫很多人立刻就会想起bs4、xpath、requests之类的虽然说爬取普通网站用上边的组合足够了,但是如果不进阶永远不会知道该领域的广阔。下边就介绍一下Scrapy爬虫框架的安装。之后慢慢学习之后介绍Scrapy框架的使用。首先给大家一个忠告,不要去妄想使用pip install或者easy_install安装上Scrapy。因为Scrapy需要的依赖包和依赖编译环境太多了,网上的说什么用...

weixin_39926639的博客 674

Scrapy——Scrapy框架的安装

安装Scrapy框架之前需要安装的lxml库,pyOpenSSL库,Twisted库以及pywin32库。 首先,直接安装pyOpenSSl库即可,win+R,输入cmd,使用pip命令,pip install pyOpenSSL 其次,下载相应的lxml的 .whl文件(下载地址:https://www.lfd.uci.edu/~gohlke/pythonlibs/) 下载完成之后...

WangJialin 468

python安装scrapy框架命令_利用Anaconda简单安装scrapy框架的方法

利用Anaconda简单安装scrapy框架的方法引言:使用pip install 来安装scrapy需要安装大量的依赖库,这里我使用了Anaconda来安装scrapy,安装时只需要一条语句:conda install scrapy即可步骤1:安装Anaconda,在cmd窗口输入:conda install scrapy ,输入y回车表示允许安装依赖库步骤2:测试scrapy是否安装成功,在d...

weixin_39668898的博客 581

python的scrapy框架的安装_Python爬虫框架Scrapy安装使用步骤

一、爬虫框架Scarpy简介Scrapy 是一个快速的高层次的屏幕抓取和网页爬虫框架,爬取网站,从网站页面得到结构化的数据,它有着广泛的用途,从数据挖掘到监测和自动测试,Scrapy完全用Python实现,完全开源,代码托管在Github上,可运行在Linux,Windows,Mac和BSD平台上,基于Twisted的异步网络库来处理网络通讯,用户只需要定制开发几个模块就可以轻松的实现一个爬虫,用...

weixin_39944595的博客 141

scrapy框架安装配置

scrapy框架 scrapy安装(win) 1.pip insatll wheel 2.下载合适的版本的twisted:http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted 3.安装twisted,到同一个目录,然后pip install 4.pip install pywin32 5.pip intstall scrapy 如果:在终端...

weixin_30292745的博客 147

PyCharm安装scrapy框架

PyCharm安装scrapy框架 一、系统环境说明: 操作系统:windows10 64位专业版; python版本:python 3.5。 二、安装准备: 1、安装pip工具 2、下载并安装Twisted(我的python版本是3.5的,所以对应的Twisted也要3.5的。根据个人的python版本号下载)。 ...

ifeng12358的博客 4234

Scrapy框架安装

Scrapy框架安装 下载安装: 浏览器打开:https://www.lfd.uci.edu/~gohlke/pythonlibs/,ctrl + f搜索需要下载的库,注意版本(cp后的数字为python的版本号) ctrl + r输入cmd进入命令窗口;cd + “刚下载的库的路径”;pip install “库的全称,加上后缀” 网络安装 pip install “库名” ...

qq_45128698的博客 149

scrapy安装_scrapy框架介绍

Scrapy是Python开发的一个快速、高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化数据的应用程序框架。Scrapy用途广泛,可以用于数据挖掘、监测和自动化测试;Scrapy吸引人的地方在于它是一个框架,任何人都可以根据需求方便的修改。它也提供了多种类型爬虫的基类,如BaseSpider、sitemap爬虫等;1.Scrapy五大基本构成Scrapy框架主要由五大组件...

weixin_39620629的博客 136
上一篇: maven入门(六)运行调试maven程序
下一篇: Maven实现直接部署Web项目到Tomcat7
QEcode
博客等级 码龄10年 39粉丝 147原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值