python 爬虫篇
Manba_77
自律、好学的it小男孩
兴趣方向:web安全、python自动化、python开发
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
python爬虫思路总结
原创 2022-04-24 21:25:26 · 312 阅读 · 0 评论
-
python 获取网页视频
代码实现import tkinterimport tkinter.messageboximport osimport os.pathimport you_get# 获取当前工作目录path = os.getcwd()# 设置当前目录为工作目录os.chdir(path)# 创建应用程序root = tkinter.Tk()# 设置窗口标题root.title('获取网页视频')# 设置窗口大小root['height'] = 200root['width'] = 50原创 2022-04-26 20:27:03 · 5367 阅读 · 5 评论 -
python 爬取王者壁纸
爬取思路主要用requests请求,urllib保存请求得到数据,str.find()方法和切片方法初步处理数据,再把处理好的数据转换成json数据,再字典取值的方式得到全部的url,最后请求url保存图片代码实现import requestsfrom urllib import requestimport urllib.parseimport json#发起请求并获取响应的内容url = 'https://apps.game.qq.com/cgi-bin/ams/module/isho原创 2022-04-25 22:10:56 · 303 阅读 · 0 评论 -
python 批量下载某站视频(改进版)
前提条件:python环境:python3.6.4利用到的库:import osimport os.pathimport you_getfrom lxml import etreeimport requestsimport osimport re视频l类型:必须是有视频选集的程序运行思路代码实现import osimport os.pathimport you_getfrom lxml import etreeimport requestsimport osimpo原创 2022-04-28 23:18:36 · 494 阅读 · 0 评论 -
python 批量下载某站视频
代码实现import osimport os.pathimport you_getfrom lxml import etreeimport requests# 获取所有的视频urldef get_url(ID): video_url = 'https://www.bilibili.com/video/' # ID = 'BV1Kh411r7uR' home_url = video_url + ID headers = { 'user-agen原创 2022-04-27 22:12:21 · 1442 阅读 · 0 评论 -
python 爬虫Scrapy框架入门
简单介绍Scrapy框架Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架,我们只需要实现少量的代码,就能够快速的抓取。Scrapy使用了Twisted异步网络框架,可以加快我们的下载速度。异步和非阻塞的区别异步:调用在发出之后,这个调用就直接返回,不管有无结果非阻塞:关注的是程序在等待调用结果时的状态,指在不能立刻得到结果之前,该调用不会阻塞当前线程Scrapy工作流程第一种爬虫方式第二种爬虫方式Scrapy入门1 创建一个scrapy项目scrapy st原创 2022-05-03 14:34:25 · 695 阅读 · 3 评论
分享