第一个BeautifulSoup爬虫

最新推荐文章于 2026-01-08 23:29:03 发布

原创最新推荐文章于 2026-01-08 23:29:03 发布 · 413 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#python #爬虫

Python爬虫专栏收录该内容

5 篇文章

订阅专栏

本文介绍了一种使用Python中的BeautifulSoup和requests模块从网易财经页面抓取文章标题、发布时间及链接的方法。通过解析网页源代码，可以批量获取指定区域内的新闻信息。

利用BeautifulSoup抓取网易评论的文章标题，时间，链接
使用BeautifulSoup，request模块，在虚拟的Python2.7下运行

# coding=utf-8
import requests
from bs4 import BeautifulSoup


html = requests.get('http://money.163.com/special/pinglun/')
text = html.text


soup = BeautifulSoup(text, "lxml")

# h2 = soup.find('h2')
# print h2

#搜索div标签下所有class为item_top的内容
for link in soup.find_all('div', class_='item_top'):
    #获得a标签下的文字
    print(link.a.get_text())
    #获得a标签下href
    print(link.a.get('href'))
    #获得span标签下的文字，即时间
    print(link.span.get_text())