本次目的:
Python采集ppt素材模板 (多线程版本)
开发环境:
- Python 3.8
- Pycharm
模块使用:
- requests >>> pip install requests
- re
模块安装问题:
如果安装python第三方模块:
- win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车
- 在pycharm中点击Terminal(终端) 输入安装命令
安装失败原因:
-
失败一: pip 不是内部命令
解决方法: 设置环境变量 -
失败二: 出现大量报红 (read time out)
解决方法: 因为是网络链接超时, 需要切换镜像源
清华:https://pypi.tuna.tsinghua.edu.cn/simple
阿里云:https://mirrors.aliyun.com/pypi/simple/
中国科技大学 https://pypi.mirrors.ustc.edu.cn/simple/
华中理工大学:https://pypi.hustunique.com/
山东理工大学:https://pypi.sdutlinux.org/
豆瓣:https://pypi.douban.com/simple/
例如:pip3 install -i https://pypi.doubanio.com/simple/ 模块名 -
失败三: cmd里面显示已经安装过了, 或者安装成功了, 但是在pycharm里面还是无法导入
解决方法: 可能安装了多个python版本 (anaconda 或者 python 安装一个即可) 卸载一个就好
或者你pycharm里面python解释器没有设置好
如何配置pycharm里面的python解释器?
- 选择file(文件) >>> setting(设置) >>> Project(项目) >>> python interpreter(python解释器)
- 点击齿轮, 选择add
- 添加python安装路径
pycharm如何安装插件?
- 选择file(文件) >>> setting(设置) >>> Plugins(插件)
- 点击 Marketplace 输入想要安装的插件名字 比如:翻译插件 输入 translation / 汉化插件 输入 Chinese
- 选择相应的插件点击 install(安装) 即可
- 安装成功之后 是会弹出 重启pycharm的选项 点击确定, 重启即可生效
一. 数据来源分析
分析:
我们想要的数据内容, 可以从哪里得到…
ppt模板 >>> 可以怎么去下载, 下载url在哪里获取 ppt标题可以从哪里
分析怎么去:
通过开发者工具进行抓包分析…
I. 找到ppt文件下载地址 url https://down.ypppt.com/uploads/soft/220216/1-220216193454.zip
II. 通过下载地址, 可以找到下载地址的来源 https://www.ypppt.com/p/d.php?aid=12774
III. 通过分析可以知道 想要所有PPT数据 获取所有ppt ID
IV. https://www.ypppt.com/moban/ 这个列表页面 就有我们想要的ppt 的ID参数
如果说你采集的数据, url地址变化是因为 ID >>> 去列表页面查找…
二. 代码实现步骤:
爬虫四个基本步骤 发送请求 >>> 获取数据 >>> 解析数据 >>> 保存数据
- 发送请求, 对于 ppt 列表页面发送请求
- 获取数据, 获取服务器返回response响应数据
- 解析数据, 提取我们想要内容: ID 标题
- 发送请求, 把ID 传入 https://www.ypppt.com/p/d.php?aid=12774 发送请求
- 获取数据, 获取服务器返回response响应数据
- 解析数据, 提取下载地址
- 保存数据
导入模块
# 导入格式化输出模块
import pprint
# 导入数据请求模块
import requests # 导入模块没有使用, 会是一个灰色待机状态... pip install requests
# 导入正则表达式模块
import re # 内置模块 不需要安装
# 导入多线程模块
import concurrent.futures
# for page in range(2, 152): # 2,3,4,5,6,7,8,9,10
# # 1. 发送请求, 对于 ppt 列表页面发送请求 开源的游戏辅助代码 连连看...模拟点击 识别图片模拟点击
# print(f'===================正在爬取第{page}页的数据内容====================')
# url = f'https://www.ypppt.com/moban/list-{page}.html/

本文介绍了一个使用Python进行PPT素材模板多线程采集的方法,详细讲解了如何配置PyCharm的Python解释器,安装第三方模块,以及通过抓包分析获取PPT下载URL的过程,并给出了爬虫的基本步骤。
最低0.47元/天 解锁文章
782

被折叠的 条评论
为什么被折叠?



