怎么用Python爬虫音频平台

Python爬虫:爬取喜马拉雅音频数据详解 前言 喜马拉雅是专业的音频分享平台,汇集了有声小说,有声读物,有声书,FM电台,儿童睡前故事,相声小品,鬼故事等数亿条音频,我最喜欢听民间故事和德云社相声集,你呢? 今天带大家爬取喜马拉雅音频数据,一起期待吧!! 项目目标 爬取喜马拉雅音频数据 受害者地址 https://www.ximalaya.com/ 本文知识点: 1、系统分析网页性质 2、多层数据解析 3、海量音频数据保存 环境: python 3.6 pycharm requests parsel 思路:. 阅读详情

搜索郭德纲相声,选择第一个专辑,点击进入。 

 

 

 

找数据小技巧:直接先找xhr分类,如没有数据,再找all里第一个html,一般情况下,批量采集的数据是以json数据格式获取的。

喜马拉雅的音频数据藏在点击播放后的url里。截图中的url正是音频列表的数据了。

 

 接着点开右侧 Preview预览的文件,trackId就是区分每个文件的id。要找到下载数据的地方,就必须找到唯一的关键词。

 顺着左侧的url查看,发现下面这个url对应的右侧数据,有我们需要的.m4a音频文件数据。

 

 经过url的观察,发现请求头里,都会有个xm-sign的数据。没有这个数据,则抓取不到我们要的数据。

 

 那我们就生成xm-sign数据,规则是 md5(himalaya-服务器时间戳)(100以内随机数)服务器时间戳(100以内随机数)现在时间戳。(每次抓取数据的时候,都需要调用该方法,现在时间戳和服务器时间戳相差大到一定值,则获取不到数据)

 

def getServerTime(self):
        """
        获取喜马拉雅服务器的时间戳
        :return:
        """
        # 这个地址就是返回服务器时间戳的接口
        serverTimeUrl = "https://www.ximalaya.com/revision/time"
        response = requests.get(serverTimeUrl,headers = self.headers)
        return response.text
 
    def getSign(self,serverTime):
        """
        生成 xm-sign
        规则是 md5(himalaya-服务器时间戳)(100以内随机数)服务器时间戳(100以内随机数)现在时间戳
        :param serverTime:
        :return:
        """
        nowTime = str(round(time.time()*1000))
 
        sign = str(hashlib.md5("himalaya-{}".format(serverTime).encode())
ximalaya 新xm-sign逆向思路(二) 1.网页会在加载时生成一个对象t,格式为 t={key:value........}2.将t对象中的date时间戳以及urt两个值调整, date是当前时间戳, urt是随机值+固定字符串拼接3.调用_getProcessData函数,将t对象转成数据结构,主要以二进制存储4.通过post请求像网站发送请求,携带第3步生成的ArrayBuffer,目标网址是通过https://hdaa.shuzilm.cn+getUrlMethod(0)拼接而成。 阅读详情

相关推荐

Python 爬虫实战:从喜马拉雅平台爬取有声书播放量与热门音频内容挖掘

本文介绍了如何利用Python爬虫技术抓取喜马拉雅平台的有声书播放数据,并进行市场分析。通过Scrapy框架采集有声书的名称、播放量和评论数,使用Pandas清洗数据并存储到MySQL。通过分析播放量前十的有声书和热门标签,揭示音频内容的市场趋势。该方法可帮助内容创作者了解用户偏好,为运营决策提供数据支持。未来可结合机器学习预测热门内容,深化市场洞察。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 1854

爬取喜马拉雅音频内容:获取音频数据及评论的Python爬虫实战

本文介绍了如何使用Python爬虫技术爬取喜马拉雅音频平台上的音频内容及评论数据。通过使用requestsSelenium等工具,我们能够获取音频的基本信息和评论数据,并通过SQLite数据库进行存储,最后对数据进行简单的分析。希望这篇博客能为你提供关于如何使用Python进行音频数据抓取的参考,并帮助你更好地理解如何应对反爬虫策略。

2201_76125261的博客 1269

【小白必看】使用Python爬取喜马拉雅音频并保存的示例代码

本文介绍了如何使用Python中的requests库来获取音频文件并保存到本地。通过喜马拉雅平台的API接口,我们获取音频ID和名称,并构造音频地址。然后,通过发送HTTP请求将音频内容下载并保存到本地。首先,我们导入requests库,它是一个常用的HTTP请求库。然后,我们定义了一个获取音频ID列表的链接,并发送GET请求获取响应。通过解析响应的JSON数据,我们提取出音频的ID和名称,并将其存储在一个列表对象中。接下来,我们使用循环处理每个音频。我们构造了获取音频地址的链接,发送GET请求获取音频地址

全栈若城,专注知识分享 3676

基于Qt与Python的音乐播放器及爬虫系统实战项目

除了内置信号外,常需定义自定义信号以协调模块间通信。例如,在主窗口中定义:Q_OBJECTsignals:然后在适当时机发射:});接收端可绑定多个槽函数:这种一对多的通知机制非常适合日志记录、通知提醒等功能扩展。为了防止恶意爬虫对服务器造成过大负载,多数网站部署了多层次反爬策略。常见的有以下几类:反爬类型检测机制应对方案User-Agent 检测判断请求头是否为空或非常规值构造合理 UA 并轮换IP 频率限制。

weixin_42506884的博客 1611

易语言-喜马拉雅xm-sign算法

易语言-喜马拉雅xm-sign算法源码

【突破反爬虫】喜马拉雅音频-生成xm-sign的js脚本,可用python执行

【突破反爬虫】喜马拉雅音频-生成xm-sign的js脚本,可用python执行

sysbench安装(在线&离线)

sysbench下载、安装、编译和异常处理方法

m0_61066945的博客 8752

光模块封装工艺简介

光模块按照部件可以分为芯片、光器件、光模块三个层级;按照应用领域大概可分为电信应用、数通应用两个领域;按照内部器件的封装工艺可分为TO、Box、COB三大类。 但是,无论是哪种类型的光模块,其生产工艺基本上可以分为封装、测试两大块。   那什么叫做器件封装呢?我的理解器件封装就是利用胶水、焊料、机械、热量等手段把器件按照一定的先后次序结合形成一个整体的过程,就好像早上吃的煎饼,把面粉、鸡蛋、脆饼、烤肠、葱花等这些“器件”,按照一定的顺序,通过食用油、甜面酱、加热、卷起来等手段结合到一起,形成了美味的

qq_33253182的博客 2816

FunASR语音识别服务在Win11上的Docker部署避坑指南:模型配置与热词优化

本文详细介绍了在Windows 11系统上通过Docker部署FunASR语音识别服务的完整流程,包括环境准备、模型配置、热词优化及常见问题解决方案。特别针对Win11环境下的特殊配置和性能调优提供了实用指南,帮助开发者高效搭建高性能语音识别服务。

e3f4g5的博客 222

FPGA实战:基于Basys3的多功能数字钟设计与实现

本文详细介绍了基于Basys3开发板的多功能数字钟设计与实现过程,涵盖FPGA开发、SystemVerilog编程及7段数码管驱动等关键技术。通过模块化设计实现时钟分频、时间计数、按键处理等功能,并提供了优化显示驱动和调试技巧,帮助开发者快速掌握数字电路设计核心概念。

weixin_29186249的博客 659

从零到一:用Verilog和Quartus构建智能交通灯系统的实战指南

本文详细介绍了如何使用Verilog和Quartus Prime从零开始构建智能交通灯系统。通过分步指导,包括状态机设计、时序控制、数码管显示等核心模块实现,并结合ModelSim仿真验证,帮助FPGA初学者掌握数字电路设计的关键技术。文章还提供了实际部署到FPGA开发板的调试技巧和进阶优化方案。

weixin_29172201的博客 473

西门子PLC与汇川SV660P伺服速度模式配置实战指南

本文详细介绍了西门子S7-1200 PLC与汇川SV660P伺服驱动器在速度模式下的配置实战指南。从硬件接线、伺服参数配置到TIA Portal软件组态和PLC程序编写,提供了全面的操作步骤和实用技巧,帮助工程师快速解决伺服系统调试中的常见问题,确保系统稳定运行。

weixin_30316097的博客 498

MacBook 长期挂机 OpenClaw:电池保护 + 防休眠设置

本文介绍了MacBook长期挂机运行OpenClaw时的电池保护和防休眠设置方案。主要内容包括:1)电池保护策略,通过电源连接、充电限制和定期充放电维护电池健康;2)防休眠设置,禁用系统休眠、自动休眠和屏幕休眠;3)OpenClaw的Docker部署方法。文章提供了详细的命令行脚本和配置说明,帮助用户实现MacBook的长期稳定运行,同时保护电池寿命。

一键难忘的博客 1694

Vue3 - 强力解决前端下载二进制流pdf文件、下载成功后打开空白问题解决,或者获取PDF文件流,将blob对象转换成下载链接打开后一片空白(无论是否使用pdf插件下载,还是原生方法下载都完美解决)

vue3前端下载二进制流pdf文件,下载成功,打开空白问题解决,js下载PDF文件流,打开空白问题,VUE3 h5中的文件流下载和指定的url下载总结(解决下载后的pdf打开空白情况)pdfjs打开文件流空白,解决pdf文件流,预览全是空白页,pdf文件流,下载正常,但是预览全是空白页,前端JS获取PDF文件流,将blob对象转换成下载链接打开后一篇空白的问题,前端文件流下载后文件空白,前端下载文件流PDF文件显示空白 或 无法打开,在线预览PDF文件打不开白屏怎么办,前端axios请求二进制数据流转换生成

🏆 前端领域优质创作者 4617

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

上一篇: 学会Python,再也不愁给孩子起名字了
下一篇: 想爬取微信文章?
boss_python
博客等级 码龄5年 11粉丝 17原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值