爬虫环境配置

Ubuntu部署Scrapy与Portia

仔细想了想,2017年用python脚本尝试了最简单的爬虫;如果想做点什么,显然是不够的。于是乎,今天开始了解一下scrapy框架,以及再次想要部署portia(可视化,对于我这种不爱好编程的人说,不多做解释)。2017以失败告终。

既然都是windows上部署portia很多的坑,那就在ubuntu上吧,于是开始在Oracle VM VirtualBox虚拟机上安装ubuntu环境,基于我一贯的认识,旧版本比较稳定,于是安装了一个12.04的版本,后来再安装docker的时候,怎么都不能成功;最后删除,重新安装,目前正在安装一个16.04的版本。

参考:https://www.cnblogs.com/kfpa/p/Portia.html

ubuntu上从当前用户切换到root用户命令:su;

但首先等通过sudo passwd:来设置root用户的密码。

同时,也要把scrapy的环境部署起来呀;安装easy_install,安装lxml,安装pywin32,安装pyOpenSSL,安装Twisted,然后pip install scrapy, 你以为会OK的,但是各种各样的错误层出不穷。各种各样的依赖包,绝对是个不小的考验。(https://www.cnblogs.com/pachongshou/archive/2016/12/01/6122159.html)刚看到有人花了几周搭建这个环境,忽然之间就满满的自豪感啊!我这算小半天吧吐舌头 环境配置快成精啦!

如Scrapy安装报错:AttributeError: 'module' object has no attribute 'OP_NO_TLSv1_1'解决办法

在配置Python爬虫环境时,你需要注意以下几点。首先,确保你已经正确配置了Python环境变量。你可以在系统环境变量中添加Python的安装路径,比如D:\Python\Scripts\。 如果你在命令行中输入python出现错误,可能是因为在安装Python时没有勾选"Add Python 3.7 to PATH"选项。在这种情况下,你需要手动对Python进行配置。 其次,你还需要安装pip,它是一个Python包管理工具。你可以通过在命令行中输入pip来检查是否已正确安装。如果你在安装Python时没有自动安装pip,你可以通过下载get-pip.py文件并在命令行中运行它来手动安装pip。 配置好Python环境和安装好pip后,你就可以使用pip来安装需要的Python库,如requests、beautifulsoup等,用于编写爬虫代码了。你可以通过运行命令pip install 库名来安装相应的库。 总结起来,配置Python爬虫环境需要正确配置Python环境变量,安装pip,并使用pip来安装所需的Python库。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [Python 爬虫环境搭建](https://blog.youkuaiyun.com/qq_36275193/article/details/78225236)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [Python爬虫_01_Python环境搭建](https://blog.youkuaiyun.com/weixin_43865196/article/details/124210189)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值