python 2.7.13安装scrapy教程

本文详细介绍了在Windows 7 64位系统上搭建Python 2.7.13环境的过程,包括Python安装、环境变量配置、pywin32、pip、pyOpenSSL、Twisted、lxml和Scrapy等关键组件的安装步骤及验证方法。

作为一个Python新手,自己折腾了两天才终于算是弄好了,期间尝试过各种各样的方法,也尝试了各种各样的安装包的版本,终于算是弄好了,我看网上的教程大多太旧,这里简单写一下新版的!这里我把我使用文件打包上传了,怕麻烦的朋友可以从这里下载: 点击打开链接

操作系统:

Windows 7 64bit

python版本:

2.7.13

1.安装Python

安装的过程中可以选择自动将环境变量添加到系统中,省去了手动添加的麻烦,如果安装Python的过程中没有添加的环境变量的话,如何添加请自行百度/goole!
安装完成后验证是否安装成功:
C:\Users\Administrator>python成功提示:Python 2.7.13 (v2.7.13:a06454b1afa1, Dec 17 2016, 20:42:59) [MSC v.150Intel)] on win32Type "help", "copyright", "credits" or "license" for more information.

2.安装pywin32

在windows下,必须安装pywin32,安装地址:http://sourceforge.net/projects/pywin32/

下载对应版本的pywin32,直接双击安装即可,安装完毕之后验证:

在python命令行下输入

import win32com

如果没有提示错误,则证明安装成功

3.安装pip

python2.7.9以后pip都已经内置了,所以这里你只需使用pip或pip --version命令验证pip是否已经安装!
如果没有安装的话打开以下网址将网页内所有代码复制保存为 get-pip.py文件,然后在用Python get -pip.py install命令安装即可!
https://bootstrap.pypa.io/get-pip.py

4.安装pyOPENSSL

这里我安装的是pyOpenSSL-0.13.1.win32-py2.7.exe,版本不对的话导致后续错误,这里吐槽一下历年来发型的无数版本啊,
根本不知道要装哪个才会好用,装了N多次才尝试到这个是好用的!
验证安装:
import OpenSSL
没有任何错误提示即为安装成功!

5安装twisted以及lxml

pyOPENSSL一样,如果装的版本过高或过低都会导致错误,啊啊啊啊啊啊啊啊!!!!
这里我装的是Twisted-15.0.0.win32-py2.7.msi
安装 lxml直接执行如下命令
pip install lxml

就可完成安装,如果提示 Microsoft Visual C++库没安装,则 点我 下载支持的库。

6.安装Scrapy

最后就是激动人心的时刻啦,上面的铺垫做好了,我们终于可以享受到胜利的果实啦!

执行如下命令



pip 会另外下载其他依赖的包,这些就不要我们手动安装啦,等待一会,大功告成!

7.验证安装

输入 Scrapy

如果提示如下可用命令,就证明安装成功啦,如果失败了,请检查上述步骤有何疏漏。

Scrapy 1.3.3 - no active project

Usage:
  scrapy <command> [options] [args]

Available commands:
  bench         Run quick benchmark test
  commands
  fetch         Fetch a URL using the Scrapy downloader
  genspider     Generate new spider using pre-defined templates
  runspider     Run a self-contained spider (without creating a project)
  settings      Get settings values
  shell         Interactive scraping console
  startproject  Create new project
  version       Print Scrapy version
  view          Open URL in browser, as seen by Scrapy

  [ more ]      More commands available when run from project directory

Use "scrapy <command> -h" to see more info about a command


8测试scrapy

这里建议安装成功后使用scrapy bench 命令测试一下,如果没有任何ERROR即为成功!

9关于Anaconda

这里我还有一个地方不太明白,在这里跟大家说一下,如果有人遇到这样的错误也许能节省一些时间!

一开始我因为不太懂Python,觉得各个组件的安装实在太繁琐,刚好又在百度上看到有人说可以先安装Anaconda原文,然后使用

conda install scrapy

直接安装,整个安装过程变得非常简单无脑,然而我安装完成后从视频教程中拷贝了一个简单的爬虫就遇到了下面的错误:

TypeError: 'float' object is not iterable
这个问题困扰了我两天,去各大论坛什么的都没有人说过,直到我把所有有关Python的全部卸载重新安装,什么都不做直接用 使用 scrapy bench 命令测试就会有 上述错误,我才知道这样安装可定有问题,至于多加了参数以后使用anaconda的安装还会不会有上述错误我就不知道了,有时间的朋友可以尝试一下。

2017/04/05更新:
使用Anaconda安装按照官方文档的命令:
conda install -c conda-forge scrapy
安装,安装完成后使用:
scrapy bench
命令测试,没有报错,安装成功!
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值