获取a标签的文本 asp.net_Python小程序2获取href的值

如果一个页面上只有标题,想要获取该标题下面的文章,就需要获取文章的url,方法是:定位超链接标签标题,获取其中的href的值。
import requestsfrom bs4 import BeautifulSoupurl='http://politics.people.com.cn/n1/2020/1121/c1024-31939065.html'headers={'User-agent':'浏览器请求头的user-agent'}r=requests.get(url,headers=headers)if r.status_code==200:    r.encoding = 'gb18030'    soup=BeautifulSoup(r.text,'lxml')    #print(soup)    tags=soup.find('div','clearfix box_pic02')    hrefs=tags.find_all('a')    for href in hrefs:        print("超链接的整个标签内容为:",href)        text=href.get_text()        print("*超链接中的文本为:",text)        get_href=href.get('href')        print("*超链接为:",get_href)else:    print("连接网页不成功")
最后输出的结果为:

9db5ff2d9e7ff7de65f0bfd7f560499f.png

获取的超链接可供再次请求访问。 这个网站现在貌似设置了比较敏感的反爬机制,一个headers只能爬取两三次,再次请求连接就会出现连接异常的提醒e162e13d3658d59dbae9c6ac32790889.png

~End~

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值