福利福利!20行代码教大家抓取斗鱼美女主播封面

python爬虫-爬取某鱼封面-re(正则表达式解析) python爬虫-爬取某鱼封面-re模块(使用正则表达式解析) 阅读详情
点上方“菜鸟学Python”,选择“星标”
第477篇原创干货,第一时间送达

提起斗鱼的女主播们,大家第一时间想到的应该都是貌美如花。今天小编就带领大家抓取斗鱼直播主播们的封面照片,通过他们的封面照片来寻找自己最喜欢的女主播,一起来看看吧。

01.程序讲解

今天,我们所获取的封面照片包含了三个直播的类别,分别是“娱乐天地”下的颜值、互动交友和舞蹈三个模块。

我们首先来看颜值主播板块,看一下如何获取主播们的直播封面图吧。

不同于我们之前抓取的静态页面,斗鱼网站的信息无法从网页的源代码中进行获取,而是需要我们耐心的去分析它的网页加载内容,找出我们需要的接口链接。大家需要点击键盘的F12快捷键,进入到开发者模式下,找到network选项下的XHR请求内容,如下图所示:

02.寻找接口

我们所寻找的接口内容就包含在HXR的请求当中,那我们如何找到对应的接口呢,这里我们可以通过切换不同的直播类型,来观察XHR请求内容的变化,来找到对应的接口内容,如下图所示:

通过上面的视频可以发现,当我们不断的切换不同的直播类型时,XHR请求当中会弹出名字为”1“的内容,这样我们就可以轻松的找到我们需要的内容了,如下图所示。

接下来我们就只需要用程序,模拟浏览器向这个接口发送请求,就可以获取到数据内容。

有的小伙伴按照我们上述的方法找到url请求链接,并获取到数据后,可以发现,数据返回的是json数据内容,而且数据量非常的大,没有经验的小伙伴,可能一时之间也难以从数据中获得我们想要的图片链接。如下图所示:

这个时候,就可以借助一些辅助的工具帮助我们分析数据,大家只需要将这些json数据进行复制,然后打开网址:https://www.json.cn/。将json数据复制上去,网页就会自动的帮助我们将json数据解析成方便我们观察的数据了。

通过解析后的数据,我们可以获取到很多的信息,包括主播的昵称,以及我们想要获取得到的主播的封面图片。接下来我们就可以通过程序来获取所有主播们的封面图。而针对于互动交友和舞蹈模块的主播封面图,它们的内容解析和颜值模块主播的解析是一致的。对于封面图片的url链接的获取,程序如下图所示。

程序中,分别针对于颜值、互动交友和舞蹈三个模块下的链接进行请求,并解析返回的json数据,获取主播们的昵称和封面图片的url地址,将内容保存到self.pic_urls的列表中。

获取到图片url地址后,接下来就是请求图片数据,然后保存到本地的文件夹中,程序如下图所示。

程序中,以主播的名字命名图片,然后将请求到的图片数据,写入到本地的文件夹中。最后我们来看一下获取得到的图片内容吧。

总结

以上就是小编今天带给大家的分享,大家可以获取抓取好的主播封面,每张图片都以主播的昵称进行命名,不知道大家喜欢哪个主播,欢迎在留言区吱一声哦!

如何获取源码:

在下面的公众号后台输入:小助手,找他领取。暗号:斗鱼


推荐阅读:
入门: 最全的零基础学Python的问题  | 零基础学了8个月的Python  | 实战项目 |学Python就是这条捷径
干货:爬取豆瓣短评,电影《后来的我们》 | 38年NBA最佳球员分析 |   从万众期待到口碑扑街!唐探3令人失望  | 笑看新倚天屠龙记 | 灯谜答题王 |用Python做个海量小姐姐素描图 |
趣味:弹球游戏  | 九宫格  | 漂亮的花 | 两百行Python《天天酷跑》游戏!
AI: 会做诗的机器人 | 给图片上色 | 预测收入 | 碟中谍这么火,我用机器学习做个迷你推荐系统电影

年度爆款文案

点阅读原文,领廖雪峰视频资料!
用Python爬取斗鱼各区的主播信息,并制作热度排行榜 本次编程主要是为了练习爬虫编程和数据分析,对斗鱼直播进行爬虫,按区域划分获取主播信息并用pandas进行数据处理,用matplotlib进行绘图。 用到的功能有:requests主要爬虫模块、threading多线程模块、pandas数据处理模块、queue队列模块、lxml HTML解析器、matplotlib 绘图模块、time模块。 代码如下,欢迎学习交流: # coding=utf-8 i... 阅读详情

相关推荐

7月全新 老司机影视打赏主播源码 主播福利+vip会员升級+三级分销+支付双通道+免签接口+可封裝APP

资源仅用于学习使用,不提供技术支持

Python实战:爬取斗鱼直播封面图片

本文介绍了使用Python爬取斗鱼直播封面图片的实战案例。通过requests库实现三步核心流程:请求接口获取JSON数据、解析提取封面URL和主播信息、下载保存图片到本地。文章详细拆解了代码模块,包括请求头设置、数据解析和异常处理,并提供了文件名清理、多页爬取等优化建议。该案例适合Python初学者理解爬虫基本原理,同时强调需遵守网络爬虫规范,仅用于技术学习目的。通过这个项目,读者可以掌握基础的网络数据采集技能。

weixin_55008828的博客 868

Python实现课程时间表

用Python实现课程表功能

life is like a play 2042

简单爬取小姐姐的照片

使用环境 win10系统,python 先简单开始访问,获取html从而提取所需数据 import requests url = 'https://www.douyu.com/g_yz' response = requests.get(url=url) html = response.text print(html) 将输出结果往下拉,指导看到jpg相关的如下图所示 接着就利用简单的正则表达式进行提取 import re title_url = re.findall(r'"rn":"(.*?)","rpo

xiaofan 1700

Cocos Creator 3.x 实战:用脚本动态加载Spine动画,告别resources硬编码

本文详细介绍了Cocos Creator 3.x中Spine动画的动态加载与挂点系统实战技巧。通过Asset Bundle替代传统resources硬编码方式,实现资源的高效管理和热更新支持,同时结合TypeScript强类型和单例模式优化加载流程。文章还深入探讨了跨平台适配、挂点编程方案及性能优化策略,帮助开发者提升游戏开发效率与灵活性。

weixin_42526353的博客 268

Android Display Graphics #1 整体框架介绍一

手机屏上显示的内容,2D或3D ,如果是 3D 的,不管是 App 还是游戏,或者简单的图片界面,底层都是通过 GPU、 通过 OpenGL(ES)绘制出来的。是Java层的一个类,提供了一系列API,使用这些API可以实现各种的产品经理要求的效果。显示的不同阶段对这块内存的叫法不同,在上层可以是Window、ANnativeWindow、Surface、SurfaceView、layer、buffer,这些本质上没啥区别,可以广泛意义上理解为用于显示内容的那块内存,只不过各个阶段的操作接口不同。

oDwyane03的博客 1388

Golang实现并发版网络爬虫:斗鱼直播颜值区直播封面图片爬取并保存文件

爬取斗鱼直播颜值区直播封面图片代码实现: 工作流程: 1. 明确目标 Url 2. 发送请求,获取应答数据包。 http.Get(url) 3. 过滤 数据。提取有用信息。 4. 使用、分析得到数据信息。 ```go package main import ( "fmt" "strconv" "net/http" "io" "regexp" "os" ) func SaveImg(idx int, url string, page chan int) { path :="

qq_43759853的博客 967

网格自适应_Comsol案例解析17:自适应网格的使用

本期导读自适应网格细化有许多优势,比如可以不用对网格进行全局加密,增加计算精度,又会降低求解自由度。本期仍然以气泡上升案例为例,在两相流模块中使用自适应网格。【打开案例模型】【修改网格】适当让气泡边界加密,注意,曲率因子越小,曲线上的网格越密【添加自适应网格】使用默认的参数即可,这里的误差指示器用的是水平集phi。可以根据具体求解模型选择适当的自变量作为误差指示器。【口诀】默认的一般是最...

weixin_28726871的博客 5682

爬虫爬取斗鱼小姐姐直播间的封面

# -*- coding: utf-8 -*- """ Created on Wed Jun 23 21:58:40 2021 @author: xfw """ import requests import os from urllib import request import multiprocessing # 定义默认爬取第一页 def get_douyu_pic(page=1): #请求头 headers={ "User-Agent": "Mozilla/5.0 (Windows NT

万物琴弦存于你的泡沫之中,光锥之外 9914

【71页PPT】工业40及智能制造解决方案(附下载方式)

2013年,工业4.0平台发布白皮书,正式确立其发展战略。工业4.0不仅是技术的升级,更是制造业思维的重构。工业4.0的核心是通过信息物理系统(CPS)实现工厂内外的互联,构建高度灵活的个性化生产模式。它不仅是技术革新,更是一种生产方式的变革,使传统行业界限模糊化,催生新的商业模式和合作形式。德国作为制造业强国,其GDP的25%和出口总额的60%依赖制造业,因此工业4.0成为其维持全球领先地位的重要战略。CPS是工业4.0的基石,通过计算、通信与控制技术(3C)实现物理世界与信息世界的深度融合。

2501_92808811的博客 950

英语语法-句法

摘要:本文系统梳理了英语句法知识,重点解析了五种基本句型及其扩展结构。内容包括句子类型(陈述句、疑问句、祈使句、感叹句)、复合句构成(从句分类与连词使用)、特殊句型(倒装、强调、引语转换)等。特别强调句子成分分析技巧,指出每种句子成分可由不同词法单元充当,需掌握成分识别与划分方法。文章还提供了往期语法系列链接,形成完整的英语语法学习体系,帮助读者建立从词法到句法的系统认知框架。

STCNXPARM的博客 8820

用Python爬取斗鱼直播照片,一键保存到本地【附源码】

在数字化时代,直播已成为连接观众与内容创作者的桥梁。作为技术爱好者,你是否想过用Python来自动化地从直播平台获取图片并保存到本地?本文将带你一步步实现这个目标,从斗鱼直播网站抓取图片信息,并保存到你的本地目录。

qq_51749909的博客 1235

一篇把 Transport 做到可复制的实战指南:从 CTS 底层表到 LSMW、Variant、Layout、TABU、Query、SAPscript 全对象搬运

本文深入解析SAP系统中的Transport机制,将其视为可审计、可追溯的变更流水线。文章从CTS/Transport Organizer通用方法论和具体对象搬运手法两个层面展开,详细介绍了LSMW项目、程序Variant、屏幕/ALV Layout、表数据、ABAP Query、SAPscript和SO10标准文本等对象的传输策略。通过真实案例说明,代码对象往往能被正确传输,但"运行体验"和"业务配置"却常被遗漏,导致QAS测试正常而PRD环境异常。文章提供了一套可

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 178

谷歌送上主播福利,手机拍视频实时换背景

YouTube stories 中的神经网络视频分割(加特效)AI 科技评论按:视频分割是一项用途广泛的技术,把视频的前景和背景分离之后,导演们、视频制作者们就可以把两者作为两个不同的视觉层,便于后续的处理或者替换。对背景的修改可以传递不同的情绪、可以让前景的主人公显得去了另一个地方,又或者增强这条视频消息的影响力。不过,这项工作传统上都是由人工完成的,非常费时(比如需要逐帧把里面的人描选出来);

深度学习世界 1748

kaggle学习笔记-餐厅数据挖掘

分析Zomato数据集的基本思想是为了公平地了解影响在班加罗尔不同地方建立不同类型餐厅的因素,每个餐厅的总评级,班加罗尔是这样一个城市,拥有超过12,000家餐厅,餐厅供应来自世界各地的菜肴。每天都有新的餐馆开业,这个行业还没有饱和,需求也在与日俱增。然而,尽管需求不断增加,新餐馆却很难与老牌餐馆竞争。大多数餐厅都供应同样的食物。班加罗尔是印度的IT之都。这里的大多数人主要依靠餐馆的食物,因为他们没有时间自己做饭。由于对餐馆的需求如此巨大,因此研究一个地方的人口统计学就变得很重要。

优快云XXCQ的博客 1862

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

【爬虫实战】python爬取虎牙直播间封面美女图片

Python爬虫爬取虎牙直播间封面美女图片 目录Python爬虫爬取虎牙直播间封面美女图片写作缘起上代码效果展示思路分析 写作缘起 这篇文章主要是介绍如何使用python爬虫来爬取虎牙直播间的封面,我发现星秀封面上的小姐姐都挺漂亮的,这不得保存下来好好欣赏 上代码 import requests import re import os # 获取虎牙直播封面图片、链接、标题、主播名 headers = { 'user-agent': 'Mozilla/5.0 (Windows NT 6.1; Win

weixin_43827376的博客 3440

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

斗鱼美女主播封面爬取 python request urlretrieve jsonpath 爬虫

斗鱼美女主播封面爬取 python request urlretrieve jsonpath 爬虫 输出结果

Change the World by Program 996

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

Python+爬虫技术获取斗鱼直播图片(整理)

核心内容: 1、爬虫的基本原理 2、利用Python爬取数据的方法(使用urllib爬取数据)最近因为工作的原因,要利用爬虫的相关技术,获取html网页相关的数据,特意总结一下。 我们平时从网页下载数据的过程一般是这样的: 右键单击图片–>查看元素–>复制链接地址–>然后在网页复制相应地址–>打开图片后进行保存即可。 在正式介绍爬虫之前,我们先介绍一下爬虫的基本原理? 爬虫是模

什么最重要?算法!! 7406

python3爬取斗鱼主播信息

爬取舞蹈区的主播信息如昵称,热度,直播标题,直播地址,主播头像 1、抓包分析(https://www.douyu.com/g_dance) g_dance可以换成其他的,原理是一样的 通过首页分析得不到要请求的链接,如果是直接通过elements中的元素来解析的话得不到主播的头像url地址,通过分析是通过json文件来传值的,第一页找不到,换到第...

li93675的博客 1063

Scrapy实践:爬取斗鱼TV主播的头像(重写ImagesPipeline实现图片爬取)

注:若运行以下代码报出有关“PIL”的错误,则只需安装pillow即可。实现思路:(1)使用Fiddler抓包工具,找出为斗鱼APP颜值区提供数据的URL(Json格式)(2)在items中定义需要记录的相关信息(3)在spider中实现迭代爬取各主播的信息(4)在Pipeline中通过继承内置的ImagesPipeline类,重写其功能,实现图片的下载 (5)在配置文件中进行相关配置代码实现:i...

Replus_的博客 2195

Python爬虫:爬取某鱼颜值主播图片并保存到本地升级版!

一、准备 1.创建scrapy项目 scrapy startproject douyu cd douyu scrapy genspider spider "www.douyu.com" 12345 2.创建启动文件start.py from scrapy import cmdline cmdline.execute("scrapy crawl douyu".split()) 123 二、分析 准备完毕,开始分析。先进入斗鱼看看。 找到发送的请求 可以看到页面的数据都在

爬遍所有网站 626

php - 斗鱼接口对接

当前直播是很有热度的主题,直播捧红了一大批网红,然后形成了时长需要,那么我们怎么采用直播呢。 直播使用思路 1、采用视频推流的方式,将视频推送至后端(有可能OSS,也有可能是视频点播服务,经由CDN网络分发,分发至各个区域),前端从后端获取视频源,并观看直播 目前阿里云已支持推流或拉流的创建(在阿里云中心创建直播服务) 2、如果是要对接已有的第三方平台怎么呢? 目前我仅了解了斗鱼直播,关于斗鱼直播平台是有开放平台的,开发者可通过开放平台接入斗鱼直播,斗鱼官方的开放平台具体开放了哪些能力,百度搜索 “斗鱼开

聆听岁月的博客 1650

js获取在线视频的第一帧画面的直链作为视频封面

最近碰到一个需求,要求获取在线视频文件的第一帧画面作为视频的封面图片,项目中使用的是 xgplayer 播放器,封面 poster 要求传封面的 url。 思路:用 canvas 绘出画面 - 转成 base64 - base64 转成 File - 获取 File 的本地预览地址 获取 base64 格式的封面 这里 video 元素需添加 autoplay 属性,否则在一些浏览器上获取到的画面是黑的。还有就是先把 video 元素添加到 body 标签再移除,有时候会碰到视频在后台播放,用户根本没有可

adiynil 6445
上一篇: 说真的,单会点Python就想拿offer?难哦!
下一篇: 新编辑神器,可以在终端运行 Jupyter Notebook 了!
菜鸟学Python
博客等级 码龄9年 8082粉丝 571原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值