python爬虫02 —爬取静态页面（豆瓣电影top250首页名称）

weixin_47930147

于 2021-10-15 15:12:17 发布

阅读量272

点赞数

CC 4.0 BY-SA版权

文章标签： python 爬虫

本文链接：https://blog.youkuaiyun.com/weixin_47930147/article/details/120783862

本文介绍了如何使用Python的requests和BeautifulSoup库从豆瓣电影Top250页面抓取电影名称，通过实例展示了如何优雅地解析HTML并获取关键信息。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

# 导入requests和bs4两个库
import requests, bs4

# 准备基础数据，url和请求头
url = 'https://movie.douban.com/top250'
header = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.81 Safari/537.36'
}

# 封装请求方法
def getmoive(url):
    r = requests.get(url, headers=header, timeout=10)
    moive_lists = []
    soup = bs4.BeautifulSoup(r.text,'lxml')
    div_lists = soup.select('#content > div > div.article > ol > li > div > div.info > div.hd > a > span:nth-child(1)')
    for i in div_lists:
        moive = i.text.strip()
        moive_lists.append(moive)
    return moive_lists

# 执行和打印结果
moives = getmoive(url)
print(moives)

关于bs4的使用可以参考简书的这篇文章：