Python爬虫 百度360信息搜索并爬取

 对百度输入要搜索的信息,并怕去返回的网页信息

import requests
keyword = "Python"
try:
    kv = {'wd': keyword}
    r = requests.get('https://www.baidu.com/s', params=kv)
    print(r.request.url)
    r.raise_for_status()
    r.encoding = r.apparent_encoding
    print(len(r.text))
    
except:
    print("爬去失败")

输出:

https://www.baidu.com/s?wd=Python
227
>>> 

 

360搜索:

 

import requests
keyword = "Python"
try:
    kv = {'q': keyword}
    r = requests.get('https://www.so.com/s', params=kv)
    print(r.request.url)
    r.raise_for_status()
    r.encoding = r.apparent_encoding
    print(len(r.text))
    
except:
    print("爬去失败")

 

Python爬取360图片通常会涉及使用网络请求库如requests和解析HTML的BeautifulSoup库。以下是一个简单的步骤概述: 1. **安装依赖库**: 首先需要安装`requests`、`beautifulsoup4`和可能需要处理JSON数据的`json`库。可以使用pip进行安装: ``` pip install requests beautifulsoup4 json ``` 2. **获取网页源码**: 使用requests.get()函数发送HTTP请求到360图片的URL,获取响应内容: ```python import requests url = "https://www.360img.com/search/" # 这里填写实际搜索关键词对应的链接 response = requests.get(url) page_content = response.text ``` 3. **解析HTML**: 然后使用BeautifulSoup解析HTML内容,找到包含图片链接的部分。例如,可能会查找`<img>`标签提取src属性: ```python from bs4 import BeautifulSoup soup = BeautifulSoup(page_content, 'html.parser') img_tags = soup.find_all('img', src=True) ``` 4. **提取图片链接**: 对于每个找到的`<img>`标签,提取出src属性作为图片链接: ```python image_links = [img['src'] for img in img_tags] ``` 5. **保存图片**: 最后,可以使用`requests`下载图片存储到本地: ```python import os for link in image_links: response = requests.get(link) filename = os.path.join(os.getcwd(), 'images', os.path.basename(link)) with open(filename, 'wb') as f: f.write(response.content) ``` 注意:在实际操作时,你需要遵守网站的robots.txt规则以及可能存在的反爬机制。同时,频繁的抓取可能会导致IP被封禁,所以建议设置合理的延迟和使用代理。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值