动态的获取豆瓣电影的json数据
- 进入豆瓣电影 查看源码,源码中并没有我们需要的数据,通过浏览器的检查功能中的 network ,可以看到页面上的数据是通过前端发送ajax请求,动态的获取的.这样我们就不能直接在html页面中获取到想要的数据了.
- 解决的办法: 直接发送请求去后台获取到返回的json数据
- 地址栏中的请求路径:
- 根据需求检索的电影
- 检索的结果
- 前段发送的ajax请求 和返回的数据
- 在header 消息头中的一栏的 最下边是我们的检索方式 也就是我们发送请求需携带的参数
- 基于以上的条件我们就可以采用代码去发送我们的请求
- 代码演示:
# coding=utf-8
# https://movie.douban.com/j/new_search_subjects?
# sort=T&range=0,10&tags=%E5%89%A7%E6%83%85&start=0
# 分析:
# 请求需要带去的参数
动态爬取JSON数据:以豆瓣电影为例

本文介绍如何动态获取豆瓣电影的JSON数据。由于数据是通过AJAX请求加载,不能直接从HTML源码获取。解决方案是模拟前端请求,直接向服务器发送请求获取JSON。文中展示了查看网络请求、确定请求路径和参数的方法,并提供了代码演示来实现这一过程。
最低0.47元/天 解锁文章
449

被折叠的 条评论
为什么被折叠?



