利用urllib,正则表达式,文件读写,爬取慕课网首页图片

爬取慕课网首页图片
本文介绍使用Python的urllib库结合正则表达式爬取慕课网首页图片的方法。通过发送HTTP请求获取网页源码,并从中提取所有图片链接,最后下载图片到本地。

利用urllib,正则表达式,文件读写,爬取慕课网首页图片

from urllib import request, parse, error
import re    # 目前是先写代码,再导入需要的模块
import os
url = 'http://www.imooc.com/'   # 慕课网首页

with request.urlopen(url) as response:
    # response.read() 返回 bytes 类型,需要转换为 str 进行正则
    html_page = response.read().decode('utf-8')
# r'http://.+\.jpg' 会匹配到其他信息
img = re.compile(r'http://**[\.\d\-a-zA-Z\/\s]**+\.jpg')         
img_urls = re.findall(img,html_page)      

补写 re.findall() 的知识

i = 0
for url in img_urls:
    i += 1
    try:
        with open(str(i)+'.jpg','wb') as f:      # open(file_name,'wb') 以二进制形式打开图片
            with request.urlopen(url,timeout = 3) as req_url:
                img_buf = req_url.read() # .decode('utf-8')
            f.write(img_buf)
            print('No. %d.jpg is downloaded!' % i)
    except error.URLError as e:
        print('something is wrong!')
        os.remove(str(i)+'.jpg')
        i -= 1

这里只爬取了一个页面的图片,还可以对多个页面进行爬取。
没有进行模块化


### 爬取百度新闻首页的部分新闻内容 要爬取百度新闻首页的部分新闻内容,可以使用正则表达式结合 Python 的 `urllib` 和 `re` 模块。以下是具体实现方法和代码示例: #### 1. 使用 `urllib` 获取页内容 通过 `urllib.request.urlopen()` 函数访问百度新闻首页,获取其 HTML 内容[^1]。 ```python import urllib.request url = "https://news.baidu.com/" content = urllib.request.urlopen(url).read().decode('utf-8') ``` #### 2. 定义正则表达式提取新闻标题 根据百度新闻首页的 HTML 结构,新闻标题通常位于 `<a>` 标签中,并且包含特定的类名或属性。例如,假设新闻标题的结构如下: ```html <a href="新闻链接" target="_blank">新闻标题</a> ``` 可以定义正则表达式为: ```python import re pattern = r'<a.*?href=".*?".*?>(.*?)</a>' titles = re.findall(pattern, content, re.S) ``` 这里 `(.*?)` 表示匹配新闻标题的内容,`re.S` 参数允许正则表达式匹配多行内容[^2]。 #### 3. 打印爬取到的新闻标题 将爬取到的新闻标题打印出来,确保结果正确: ```python for title in titles: print(title.strip()) ``` 完整代码如下: ```python import urllib.request import re # 访问百度新闻首页 url = "https://news.baidu.com/" content = urllib.request.urlopen(url).read().decode('utf-8') # 定义正则表达式匹配新闻标题 pattern = r'<a.*?href=".*?".*?>(.*?)</a>' titles = re.findall(pattern, content, re.S) # 输出新闻标题 for title in titles: print(title.strip()) ``` #### 注意事项 - 正则表达式的准确性取决于目标站的 HTML 结构。如果百度新闻首页的结构发生变化,可能需要调整正则表达式。 - 爬取页时需遵守目标站的 `robots.txt` 文件规定,避免违反相关法律或站政策[^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值