用Python编写的第一个爬虫程序

实例代码如下:

import re
import os
import urllib.request
#根据给定的网址来获取网页详细信息,得到的html就是网页的源代码
def getHtml(url):
    page = urllib.request.urlopen(url)
    html = page.read()
    return html.decode('UTF-8')
def getImg(html):
    reg = 'src="(.+?\.jpg)" pic_ext'  
    imgre = re.compile(reg) #转换成一个正则对象
    imglist = imgre.findall(html) #表示在整个网页中过滤出所有图片的地址,放在imglist中
    print("====图片的地址=====",imglist)
    x = 0 #声明一个变量赋值
    path = '/eclipse-workspace/pictures/' #设置保存地址,相对路径
    if not os.path.isdir(path):
        os.makedirs(path) # 将图片保存到文件夹,没有则创建
    print(path)
    print('图片已开始下载,注意查看文件夹') 
    for imgurl in imglist:
        urllib.request.urlretrieve(imgurl,'{0}{1}.jpg'.format(path,x)) #打开imglist,下载图片保存在本地,
        x = x + 1      
    return imglist
html = getHtml("http://tieba.baidu.com/p/3840085725") #获取该网址网页的源代码
print(getImg(html)) #从网页源代码中分析并下载保存图片
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值