如何写一只抓哔哩哔哩弹幕的爬虫

本文介绍了如何编写一个Python爬虫来抓取哔哩哔哩视频的弹幕。首先解析首页获取cid和视频内容,接着构造弹幕链接,然后解析XML文件,最后遍历所有集数的弹幕并将其存入数据库。爬虫工作流程包括:解析视频cid、构造弹幕链接、解析XML弹幕数据和遍历每集弹幕。

如何写一只抓哔哩哔哩弹幕的爬虫

爬虫工作流程

  1. 解析首页获得视频cid
  2. 构造所有的获取弹幕链接
  3. 解析xml文件并插入数据库
  4. 遍历获取每一集的弹幕内容

1、解析首页获取每一集的cid和内容

访问静态页面,利用lxml解析视频cid和视频内容
解析如下标记的内容:
标记的图片

2、构造获取弹幕链接

构造得到弹幕的链接很简单,根据第一步得到的cid

http://comment.bilibili.com/{cid}.xml #cid 第一步获得的

根据cid构造url 访问获取弹幕,返回的是xml文件。
如下:
这里写图片描述

3、弹幕xml文件解析

获取的弹幕xml格式如下:

<d p="533.67199707031,1,25,41194,1498943949,0,7edeebe9,3511
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值