python网络爬虫，用正则表达式拔取网页

最新推荐文章于 2024-07-21 21:39:32 发布

又减肥

最新推荐文章于 2024-07-21 21:39:32 发布

阅读量1k

点赞数 2

CC 4.0 BY-SA版权

文章标签： python 爬虫开发语言

本文链接：https://blog.youkuaiyun.com/weixin_59862023/article/details/123569967

该博客展示了如何使用Python的urllib和re模块进行网页抓取及内容解析。通过定义URL，设置请求头，打开网页并读取响应，然后利用正则表达式匹配HTML中的特定信息。博客内容涉及网络爬虫基础和网页内容提取，是Python初学者入门网络爬虫的好材料。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

from urllib import request
import re
#定义URL
url='https://tieba.baidu.com/fkw=%B6%CE%D7%D3&fr=ala0&tpl=5&dyTabStr=MCw2LDIsNCw1LDMsMSw4LDcsOQ%3D%3D'
try:
    #定义请求头
    headers={'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/99.0.4844.74 Safari/537.36'}
    #传入请求头
    req=request.Request(url,headers=headers)
    #打开网页
    resp=request.urlopen(req)
    #打印响应，解码
    content=resp.read().decode('utf-8')
    print(content)
    #正则表达式
    pattern=re.compile(r'<a rel="noopener".*?title=(.*?)\s.*?>(.*?)</a>')
    #匹配html
    items=re.findall(pattern,content)
    #打印解码的内容
    for i in items:
        print(i[0]+'\t'+i[1])
except request.URLError as e:
    if hasattr(e,'code'):
        print(e.code)
    if hasattr(e,'reasson'):
        print(e.reason)