爬取校园新闻首页的新闻

最新推荐文章于 2024-05-30 10:08:42 发布

weixin_34127717

最新推荐文章于 2024-05-30 10:08:42 发布

阅读量65

点赞数

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/qq412158152/p/8779816.html

本文介绍如何使用Python的requests和BeautifulSoup库来抓取校园新闻网站上的新闻标题、链接、正文等内容，并解析出新闻的发布时间、作者等详细信息。此外，还介绍了如何将时间字符串转换为datetime格式。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1. 用requests库和BeautifulSoup库，爬取校园新闻首页新闻的标题、链接、正文。

url = "http://news.gzcc.cn/html/xiaoyuanxinwen/"
res = requests.get(url);
res.encoding = "utf-8"
soup = BeautifulSoup(res.text,"html.parser");
 
for news in soup.select("li"):
    if len(news.select(".news-list-title"))>0:  #排除为空的li
        time = news.select(".news-list-info")[0].contents[0].text
        title = news.select(".news-list-title")[0].text
        description = news.select(".news-list-description")[0].text
        a = news.select('a')[0].attrs['href']
        detail_res = requests.get(a)
        detail_res.encoding = "utf-8"
        detail_soup = BeautifulSoup(detail_res.text, "html.parser")
        print(detail_soup.select("#content")[0].text)#正文
        print(time, title, description, a)
        content = detail_soup.select("#content")[0].text
        info = detail_soup.select(".show-info")[0].text
        date_time = info.lstrip('发布时间:')[:19]
        print(info)
        break

　　2. 分析字符串，获取每篇新闻的发布时间，作者，来源，摄影等信息。

info = '发布时间:2018-04-01 11:57:00      作者：陈流芳  审核：权麟春  来源：马克思主义学院      点击：次'
detail_time = info.lstrip('发布时间:')[:19]
sh = info[info.find("审核"):].split()[0].lstrip('审核：')
print(detail_time,sh)

　　3. 将其中的发布时间由str转换成datetime类型。

# 获取当前的时间
now_time = datetime.now();
now_time.year
# 将字符串转化为时间
print(datetime.strptime(date_time,"%Y-%m-%d %H:%M:%S"))
# 将时间转化为字符串
print(now_time.strftime('%Y\%m\%d'))

　　4. 将完整的代码及运行结果截图发布在作业上。

import requests
from bs4 import BeautifulSoup
from datetime import datetime
 
url = "http://news.gzcc.cn/html/xiaoyuanxinwen/"
res = requests.get(url);
res.encoding = "utf-8"
soup = BeautifulSoup(res.text,"html.parser");
 
for news in soup.select("li"):
    if len(news.select(".news-list-title"))>0:  #排除为空的li
        time = news.select(".news-list-info")[0].contents[0].text
        title = news.select(".news-list-title")[0].text
        description = news.select(".news-list-description")[0].text
        a = news.select('a')[0].attrs['href']
        detail_res = requests.get(a)
        detail_res.encoding = "utf-8"
        detail_soup = BeautifulSoup(detail_res.text, "html.parser")
        print(detail_soup.select("#content")[0].text)#正文
 
        print(time, title, description, a)
 
        content = detail_soup.select("#content")[0].text
        info = detail_soup.select(".show-info")[0].text
        date_time = info.lstrip('发布时间:')[:19]
        print(info)
        break
 
info = '发布时间:2018-04-01 11:57:00      作者：陈流芳  审核：权麟春  来源：马克思主义学院      点击：次'
detail_time = info.lstrip('发布时间:')[:19]
sh = info[info.find("审核"):].split()[0].lstrip('审核：')
print(detail_time,sh)
 
 
# # 多个名字查找作者
info1 = '发布时间:2018-04-01 11:57:00      作者：陈流芳 许健杰  审核：权麟春   来源：马克思主义学院    点击：次 '
info1 = info1[info1.find("作者"):info1.find('审核：')].lstrip('作者：').split()[1]
print(info1)
 
# 获取当前的时间
now_time = datetime.now();
now_time.year
 
# 将字符串转化为时间
print(datetime.strptime(date_time,"%Y-%m-%d %H:%M:%S"))
 
# 将时间转化为字符串
print(now_time.strftime('%Y\%m\%d'))

转载于:https://www.cnblogs.com/qq412158152/p/8779816.html