[python爬虫] bilibili视频评论翻页功能

部署运行你感兴趣的模型镜像

bilibili视频评论翻页逻辑

翻页功能 (Android App抓包 不是web端 但原理都适用)

设 1. 总评论数y

     2. 第几页(当前爬到第几页)z

利用 z小于等于y就会有数据的逻辑

一页20条数据 发一页的请求拿20条数据

int(y/20)+1<=z 为真 break   为假 继续z+1  则继续发送页请求

因为int(4001/20)+1永远等于201页   而当前页数z范围在1-201

num: 2, size(一页20条): 20, count: 1626, acount(总评论数): 4001

 

 

您可能感兴趣的与本文相关的镜像

Python3.10

Python3.10

Conda
Python

Python 是一种高级、解释型、通用的编程语言,以其简洁易读的语法而闻名,适用于广泛的应用,包括Web开发、数据分析、人工智能和自动化脚本

### 使用Python爬虫抓取哔哩哔哩网视频面的用户评论数据 为了实现这一目标,可以采用如下方法: #### 准备工作 确保安装必要的库,如`requests`用于发送HTTP请求,以及`json`处理JSON格式的数据。另外,可能还需要`pandas`来整理和存储获取到的信息。 ```bash pip install requests pandas ``` #### 获取API接口地址 大多数情况下,像哔哩哔哩这样的平台会通过特定的API端点提供结构化的数据访问方式。对于视频评论而言,通常存在专门针对此功能设计好的RESTful API服务[^2]。因此,第一步是要找到这些API的具体URL路径及其参数设置规则。 #### 发送请求并解析响应 一旦确定了正确的API入口链接之后,就可以构建相应的GET/POST请求去调用它,并从中抽取所需字段。下面是一个简单的例子展示怎样利用`requests.get()`函数向服务器发起查询操作,同时指定headers模仿浏览器行为以绕过某些反爬机制;接着把返回的结果转换成字典形式以便后续读取其中的关键属性值,比如用户名、发布时间戳及具体内容等。 ```python import json import requests from datetime import datetime def fetch_comments(bvid, page=1): url = f"https://api.bilibili.com/x/v2/reply?jsonp=jsonp&pn={page}&type=1&oid={bvid}" headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)', 'Referer': f'https://www.bilibili.com/video/{bvid}' } response = requests.get(url=url, headers=headers) data = json.loads(response.text)['data'] replies = [] for reply in data['replies']: user_name = reply['member']['uname'] comment_time = str(datetime.fromtimestamp(reply['ctime'])) content = reply['content']['message'] replies.append({ "username": user_name, "time": comment_time, "comment": content }) return replies ``` 这段代码定义了一个名为`fetch_comments`的功能模块,接受两个参数——视频唯一标识符(`bvid`) 和分编号 (`page`) ,默认从第一开始加载。内部逻辑则是按照官方文档说明组装完整的网络请求链路,最后遍历回复列表收集每条评论的相关细节形成新的记录集合供外部调用者进一步加工处理。 #### 存储所获资料 考虑到实际应用场景下往往涉及大量条目的累积保存需求,在完成一轮或多轮次的数据采集动作以后应当考虑将其持久化至本地文件系统或是数据库管理系统当中。这里仅给出基于CSV格式导出表格样式的简单示范: ```python import pandas as pd comments_data = [] for i in range(1, max_pages + 1): comments_page = fetch_comments('BVxxxxxxxxxx', i) comments_data.extend(comments_page) df = pd.DataFrame(comments_data) df.to_csv('./output/comments.csv', index=False, encoding='utf_8_sig') ``` 上述脚本片段实现了循环调用之前编写的辅助函数直至达到预设的最大翻页次数上限为止,并将所有取得的内容汇总起来构建成Pandas DataFrame对象再写入磁盘作为最终成果输出。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值