网络数据抓取实战-优快云博客

本文介绍了使用Python的requests库进行网络数据抓取的方法，包括网页信息抓取、百度搜索关键字提交及网络图片下载。通过具体代码示例，展示了如何设置请求头、处理响应状态和编码，以及如何保存图片到本地。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1.网页信息爬取

import requests
try:
    kv={'user-agent': 'Mozilla/5.0'}
    url='http://www.baidu.com/'
    r=requests.get(url,headers=kv)
    r.raise_for_status()
    r.encoding=r.apparent_encoding
    print(r.text[:500])
except:
    print("爬取失败")

2.百度搜索关键字提交

由于百度搜索的关键字接口为http://www.baidu.com/s？wd=keyword


import requests
try:
    kv1={'wd:':'python'}   #搜索python
    kv2={'user-agent': 'Mozilla/5.0'}
    url='http://www.baidu.com/s'
    r=requests.get(url,params=kv1,headers=kv2)
    r.raise_for_status()
    r.encoding=r.apparent_encoding
    print(r.text[1000:5000])
    print(len(r.text))
except:
    print("爬取失败")

3.网络图片爬取

import requests
import os
kv2={'user-agent': 'Mozilla/5.0'}
url='http://pic28.photophoto.cn/20130818/0020033143720852_b.jpg'  
root='D://pic//'
path=root+url.split('/')[-1]
try:
    if not os.path.exists(root):
        os.mkdir(root)
    if not os.path.exists(path): 
        r=requests.get(url,headers=kv2)
        r.raise_for_status()
        r.encoding=r.apparent_encoding
        with open(path,'wb')as f:
            f.write(r.content)
            f.close()
            print('文件已保存')
    else:
        print('文件已存在')
except:
    print("爬取失败")

爬虫小实例