python 爬取豆瓣电影评论,并进行词云展示

本文提供了一个Python爬虫示例,用于爬取豆瓣电影《我不是药神》的前10页评论,并利用爬取的数据生成了词云图,详细介绍了URL分析、评论爬取和词云展示的步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

python 爬取豆瓣电影评论,并进行词云展示

本文旨在提供爬取豆瓣电影《我不是药神》评论和词云展示的代码样例
  • 1、分析URL
  • 2、爬取前10页评论
  • 3、进行词云展示

1、分析URL

我不是药神 短评
第一页url
https://movie.douban.com/subject/26752088/comments?start=0&limit=20&sort=new_score&status=P
第二页url
https://movie.douban.com/subject/26752088/comments?start=20&limit=20&sort=new_score&status=P



第十页url
https://movie.douban.com/subject/26752088/comments?start=180&limit=20&sort=new_score&status=P
分析发现每次变化的只是…strat=后面的数字,其他内容不变,可以以此遍历每一页的评论。

2、爬取前10页评论

# -*-coding:utf-8-*-
以下是一个使用Python爬取豆瓣最新评论生成词云图的示例代码: ```python import requests from bs4 import BeautifulSoup import jieba from wordcloud import WordCloud import matplotlib.pyplot as plt # 爬取豆瓣评论的函数 def get_comments(url): headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} response = requests.get(url, headers=headers) soup = BeautifulSoup(response.text, 'html.parser') comments = soup.find_all('span', class_='short') return [comment.get_text() for comment in comments] # 生成的函数 def generate_wordcloud(text): wordcloud = WordCloud(font_path='simhei.ttf', background_color='white', width=800, height=600).generate(text) plt.imshow(wordcloud, interpolation='bilinear') plt.axis('off') plt.show() # 主函数 def main(): url = 'https://movie.douban.com/subject/1292052/comments?status=P' # 替换为你要爬取豆瓣电影页面URL comments = get_comments(url) text = ' '.join(comments) text = ' '.join(jieba.cut(text)) generate_wordcloud(text) if __name__ == '__main__': main() ``` 这段代码的主要功能如下: 1. 使用requests库爬取豆瓣评论页面。 2. 使用BeautifulSoup解析HTML内容,提取评论文本。 3. 使用jieba库对文本进行分。 4. 使用wordcloud库生成词云图。 5. 使用matplotlib库显示生成的词云图。 使用这段代码时,请注意以下几点: 1. 确保安装了所需的Python库:requests, bs4, jieba, wordcloud, matplotlib。 2. 将font_path参数设置为本地中文字体文件路径,以确保中文能正确显示。 3. 修改url变量为你想要爬取豆瓣电影页面URL。
评论 31
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值