爬虫升级版本,python,这个爬虫几乎一次爬完你想要的

本文介绍的Python爬虫仅需输入优快云链接,即可轻松抓取所需内容,非常适合获取学习资料。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

#这个爬虫就是需要你给个链接就可以了,记住最好是用csdn的网址,如果你想要爬取一些学习的资料可以看看小编其它的代码,这个只适合于csdn

#只需要往这个里面复制链接就可以爬取出来它的子链接及标题了
def lianjie(i):
    from urllib.request import urlopen
    from bs4 import BeautifulSoup
    k=i
    #k = input()

    def pa(html):
        bs = BeautifulSoup(html, 'html.parser')  # 解析网页
        return bs

    list = []

    #这个片段是为了将文章进行处理,排除掉那些none还有JavaScript
    try:
        html = urlopen(k)
        bs = pa(html)
        hyperlink = bs.find_all('a')
        for h in hyperlink:
            hh = h.get('href')
            if len(str(hh)) > 25:
                list.append(hh)

    except ValueError:
        print('')
    except Exception:
        print("")
        # 没有预先判断到的错误怎么办?
        # ZeroDivisionError
    finally:
        # 无论是否有异常,都会执行的代码
        print('')






    for i in list:
        try:
            html = urlopen(i)
            bs = BeautifulSoup(html, 'html.parser')  # 解析网页
            hyperlink = bs.find_all('title')
            print(hyperlink, ':', i)
            # print(bs.select('title'))
        except ValueError:
            print('')
        except Exception:
            print("")
            # 没有预先判断到的错误怎么办?
            # ZeroDivisionError
        finally:
            # 无论是否有异常,都会执行的代码
            print('')


from urllib.request import urlopen
from bs4 import BeautifulSoup
k = input()
def pa(html):
    bs = BeautifulSoup(html, 'html.parser')  # 解析网页
    return bs
list = []

# 这个片段是为了将文章进行处理,排除掉那些none还有JavaScript
try:
    html = urlopen(k)
    bs = pa(html)
    hyperlink = bs.find_all('a')
    for h in hyperlink:
        hh = h.get('href')
        if len(str(hh)) > 25:
            list.append(hh)

except ValueError:
    print('')
except Exception:
    print("")
    # 没有预先判断到的错误怎么办?
    # ZeroDivisionError
finally:
    # 无论是否有异常,都会执行的代码
    print('')
for i in list:
    lianjie(i)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值