Charley_Leo的博客

最近抓取了某查新闻舆情维度的数据,业务需求做一个情感分析,需要抓取相关链接的正文(因某查抓下来的只有摘要),新闻舆情的链接已经抓下来了,但是如下图所示这么多网站:我总不能每个网站写一个爬虫抓正文吧,那不得累死!于是想起来之前听过的智能化解析,遂学习一番,现需求任务已完成,在此做个记录总结与分享.newspaper库分为Python2和Python3两个版本,Python2下的版本叫做newspaper,Python3下的版本叫做newspaper3k,Python2版本的不做说明,下面使用Python3版本

1.导入所需要的模块from selenium.webdriver.chrome.options import Optionsfrom selenium import webdriverfrom selenium.webdriver.support.ui import WebDriverWaitfrom selenium.webdriver.common.by import Byfrom selenium.webdriver.support import expected_conditions a