用Python爬取豆瓣首页所有电影名称、每部电影影评及生成词云

本文介绍了如何使用Python结合selenium爬取豆瓣首页电影名称和影评,并利用jieba分词和WordCloud生成词云。首先,文章详细讲解了爬虫环境的配置,包括Python库的安装、selenium的配置以及解决豆瓣登录验证码问题。然后,通过主程序爬取数据并保存为txt文件,最后,调用分词和词云展示的辅助程序完成词云的生成。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.爬取环境:

  • window 7
  • Chrome 浏览器
  • 注册豆瓣、注册超级鹰

2.安装第三方库:安装第三方库:

  • 主程序用到的库有
    import sys, time
    import pytesseract
    from selenium import webdriver
    from PIL import Image, ImageEnhance
    from chaojiying import Chaojiying_Client
  • 生成词云的程序用的库有
    import os
    import os.path
    import jieba
    from wordcloud import WordCloud
    import matplotlib.pyplot as plt
    from scipy.misc import imread
    import re

3.技术难点:

  • python+selenium环境搭建
    安装selenium
    安装浏览器对应的驱动(推荐用Chrome),驱动程序要与浏览器的版本对应, 将下载的chrome驱动程序chromedriver.exe复制到chrome浏览器的安装目录下,也就是appication目录下,如:chrome的安装路径是:C:\Users\admin\AppData\Local\Google\Chrome\Application
    那么将下载的驱动程序chromedriver.exe复制到: C:\Users\admin\AppData\Local\Google\Chrome\Application
    路径下,同时将此路径增加到环境变量path中(我的电脑–》右键——》属性——》高级系统设置——》环境变量——》系统变量——》path)中。
  • 解决豆瓣对影评数据限制的问题。解决的办法用横扫登录,这就涉及验证码识别,推荐用超级鹰平台进行验证码识别(关注其微信公众号可获得1000题分,够用了)。需要注册,下载对应python的程序,获取ID

4.程序构成。
一个是主程序,用于爬取豆瓣电影时模拟登录,获取识别的验证码,最新电影的影评并存储为txt文件;一个是分程序,由主程序调用,用于分词和词云展示。
在这里插入图片描述

在这里插入图片描述在这里插入图片描述

主程序完整代码

import sys, time
import pytesseract
from selenium import webdriver
from PIL import Image, ImageEnhance
from chaojiying import Chaojiying_Client
from wordclouds import WordAnanlysis #词云库

class Crawl
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值