python使用get在百度搜索并保存第一页搜索结果

本文通过Python演示了如何使用GET请求在百度上搜索关键词“QQ”,并保存搜索结果页面为本地HTML文件。此教程适用于初学者理解网络爬虫的基础操作。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

python使用get在百度搜索并保存第一页搜索结果


作者:vpoet

日期:大约在夏季

注:随意copy,不用在意我的感受


#coding:utf-8
import urllib
import urllib2
import re

"""
使用GET在百度搜索引擎上查询
此例演示如何生成GET串,并进行请求.
"""
if __name__=="__main__":
    url = "http://www.baidu.com/s"
    search = [('w','QQ')]
    getString = url + "?" + urllib.urlencode(search)

    req = urllib2.Request(getString)
    fd = urllib2.urlopen(req)
    baiduResponse=""
    while 1:
        data= fd.read(1024)
        if not len(data):
            break
        baiduResponse+=data
    fobj=open("baidu.html",'w')
    fobj.write(baiduResponse)
    fobj.close()


搜索QQ保存的网页截图为:


打开看看:


再和百度搜索QQ的结果对比:


对的,是一样的。我们保存的网页没有图片是因为我们只保存的网页的html结构并没有将其中的图片链接从服务器上下载下来,懂了吧


<think>好的,我现在要解决用户的问题:如何用Python爬取百度搜索引擎返回的图片。用户希望得到教程或代码示例。首先,我需要回忆一下之前处理类似爬虫任务的经验,结合现有的引用资料来构建回答。 根据用户提供的引用,特别是引用[3],里面提到了使用requests和BeautifulSoup来爬取百度搜索结果,提取标题和链接。不过用户这次需要的是图片,而不仅仅是文本结果。所以,我需要调整思路,找到百度图片搜索的URL结构和如何解析其中的图片链接。 首先,百度图片搜索的URL通常是这样的:https://image.baidu.com/search/index?tn=baiduimage&word=关键词。这里的关键词需要URL编码。所以,我需要构造这样的URL,发送GET请求。然后,解析返回的HTML内容,找到图片的真实链接。 不过,现在很多网站的动态内容是通过JavaScript加载的,直接使用requests可能无法获取到这些动态生成的内容。百度图片搜索是否属于这种情况呢?可能需要分析一下页面结构。如果图片数据是通过AJAX请求加载的,可能需要找到对应的API接口,或者使用Selenium等工具来模拟浏览器行为。但考虑到用户希望用简单的代码示例,可能先尝试静态解析。 接下来,我需要查看百度图片搜索页面的HTML结构。假设图片的链接藏在某个标签里,比如img标签的src属性,或者其他的data-url属性。有时候,图片的真实URL可能被隐藏在JS数据中,这时候可能需要用正则表达式或解析JSON数据。 例如,可能百度图片的搜索结果在script标签里存储了JSON数据,包含图片的URL。这样的话,可以通过BeautifulSoup找到这些script标签,提取其中的JSON,再解析出图片链接。 另外,要注意百度的反爬机制,比如User-Agent的检查,或者IP封禁。因此,在代码中需要设置合适的请求头,模拟浏览器访问,比如加上User-Agent字段。同时,控制请求频率,避免被封。 现在,综合这些思路,我需要写出一个简单的示例代码,步骤包括: 1. 构造搜索URL,替换关键词进行URL编码。 2. 发送带有合适请求头的GET请求。 3. 解析返回的HTML,提取图片链接。可能需要查找特定的标签或解析JSON。 4. 下载图片保存到本地。 在引用资料中,引用[3]使用了requests和BeautifulSoup,这可能同样适用于图片搜索,但需要调整解析的部分。此外,可能还需要处理分页加载的问题,但用户可能只需要第一页的结果,所以先处理第一页。 现在,可能存在的一个问题是,百度图片搜索的结果页中,图片的缩略图是直接显示的,但大图可能需要点击进入,因此需要找到高清图片的URL。或者,可能缩略图的URL可以作为下载目标。需要确认用户的需求是下载缩略图还是原图,但用户没有明确说明,所以可能需要获取可访问的图片URL即可。 此外,可能需要注意百度爬虫的限制,比如验证码或者登录要求,但作为示例代码,可能暂时不考虑这些复杂情况,只实现基础功能。 现在,开始编写步骤: 首先,构造URL,使用urllib.parse中的quote进行编码。然后发送请求,设置headers中的User-Agent。然后解析HTML,查找图片相关的标签。比如,在百度图片搜索结果中,图片可能放在class为“imgitem”的div里,或者img标签的特定属性中。 不过,实际操作中可能需要具体分析。例如,通过浏览器打开百度图片搜索页面,检查元素,找到图片的URL存放的位置。比如,可能每个图片的信息存储在一个JSON对象中,位于某个script标签内。例如,搜索关键词“猫”,查看页面源码,搜索“thumbURL”可能会找到图片的URL。 例如,页面中可能存在类似的结构: <script> window.jsonData = {...}; </script> 其中包含图片的URL,比如thumbURL或middleURL等字段。这时候,需要用正则表达式或字符串处理提取这部分JSON数据,然后解析成字典,提取图片链接。 因此,在代码中,可能需要使用正则表达式来匹配这样的JSON数据,或者找到对应的script标签内容,再用json模块解析。 综上,代码的大致步骤是: 1. 构造搜索URL。 2. 发送请求,获取响应内容。 3. 解析响应内容,提取图片URL列表。 4. 遍历URL列表,下载图片保存。 现在,具体到代码实现: 首先,导入需要的库:requests, BeautifulSoup, urllib.parse, os, re, json。 然后,设置搜索关键词,构造URL: keyword = "猫" encoded_keyword = urllib.parse.quote(keyword) url = f"https://image.baidu.com/search/index?tn=baiduimage&word={encoded_keyword}" 设置请求头: headers = { "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36" } 发送请求: response = requests.get(url, headers=headers) response.raise_for_status() 接下来解析内容。假设图片的URL存在于某个script标签中的JSON数据里,可以通过正则表达式提取: 例如,页面中的某个script标签包含类似"imgsData"的数组。例如,正则表达式模式可能是r"\"thumbURL\":\"(.*?)\"",用来匹配thumbURL的值。 或者,可能整个图片数据被包裹在一个大的JSON字符串中,需要通过正则表达式提取出来,然后用json解析。 例如: script_text = soup.find("script", text=re.compile("window.jsonData")).text 然后,从中提取JSON部分,这可能比较复杂。 或者,在页面源码中搜索"thumbURL"这个关键字,找到对应的URL。 例如,使用正则表达式: pattern = re.compile(r'"thumbURL":"(.*?)"') image_urls = re.findall(pattern, response.text) 这样可能会得到所有thumbURL的值,即缩略图的链接。 然后,遍历这些URL,下载图片: for i, img_url in enumerate(image_urls): try: img_data = requests.get(img_url, headers=headers).content with open(f"image_{i}.jpg", "wb") as f: f.write(img_data) except Exception as e: print(f"下载失败:{img_url},错误:{e}") 这样就能保存图片了。 不过,需要注意百度图片搜索的页面结构是否改变,以及是否有反爬措施。比如,可能需要处理重定向或者referer头。 综上,将这些步骤写成代码示例,提醒用户注意反爬和可能的页面结构变化。 此外,用户的问题中提到想寻找如何爬取图片的方法,所以回答需要包含代码示例,解释步骤。同时,根据引用中的资料,引用[3]中的方法可以作为基础,但需要调整解析部分。 最后,需要生成相关问题,比如反爬虫策略、动态加载处理、图片批量下载等。</think>### 使用Python爬取百度图片搜索结果的实现方法 以下是基于百度图片搜索爬虫实现步骤和代码示例,注意需遵守网站的反爬规则仅用于学习目的。 --- #### 实现步骤 1. **构造搜索URL** 百度图片搜索的URL格式为: $$https://image.bauaidu.com/search/index?tn=baiduimage\&word=\{关键词\}$$ 关键词需进行URL编码,例如“猫”编码为`%E7%8C%AB`。 2. **发送HTTP请求** 使用`requests`库发送GET请求,需设置`User-Agent`头模拟浏览器访问。 3. **解析图片链接** 百度图片的缩略图URL通常存储在JSON数据中,可通过正则表达式提取`"thumbURL"`字段。 4. **下载保存图片** 遍历提取的图片链接,下载保存到本地。 --- #### 代码示例 ```python import requests import urllib.parse import re import os # 设置搜索关键词和存储目录 keyword = "猫" save_dir = "baidu_images" os.makedirs(save_dir, exist_ok=True) # 构造搜索URL encoded_keyword = urllib.parse.quote(keyword) url = f"https://image.baidu.com/search/index?tn=baiduimage&word={encoded_keyword}" # 设置请求头 headers = { "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36" } # 发送请求 response = requests.get(url, headers=headers) response.raise_for_status() # 正则匹配缩略图URL(示例逻辑,需根据实际页面结构调整) pattern = re.compile(r'"thumbURL":"(.*?)"') image_urls = re.findall(pattern, response.text) # 下载图片 for i, img_url in enumerate(image_urls[:10]): # 仅下载前10张示例 try: img_data = requests.get(img_url, headers=headers, timeout=5).content with open(os.path.join(save_dir, f"image_{i+1}.jpg"), "wb") as f: f.write(img_data) print(f"下载成功:{img_url}") except Exception as e: print(f"下载失败:{img_url},错误:{e}") ``` --- #### 注意事项 1. **反爬虫机制** 百度可能对高频请求进行IP封禁,建议添加延时(如`time.sleep(1)`)控制请求量[^3]。 2. **动态加载内容** 部分图片可能通过JavaScript动态加载,若需完整结果可改用`Selenium`模拟浏览器操作[^2]。 3. **代码适应性** 网页结构可能更新,需定期检查正则表达式或解析逻辑。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值