Python3爬虫之urllib使用

最新推荐文章于 2025-05-21 08:07:02 发布

原创最新推荐文章于 2025-05-21 08:07:02 发布 · 4.6k 阅读

1 ·

CC 4.0 BY-SA版权

本文介绍了一个简单的Python脚本，该脚本可以模拟百度搜索并将搜索结果页面保存为本地HTML文件。通过输入搜索关键词，脚本利用urllib库完成网页请求及编码处理。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

这里是一个小demo，用来模拟一个百度搜索，并保存搜索到的页面

import urllib.request
import urllib.parse

kw = input('请输入您要搜索的内容：')
data = {
    'wd':kw,
}
data = urllib.parse.urlencode(data)  #url编码，否则就使用不了这个url
url = 'https://www.baidu.com/s?wd=' + data
headers = {
    'User-Agent':'Mozilla/5.0 (Macintosh; U; Intel Mac OS X 10_5_6; en-US) AppleWebKit/530.9 (KHTML, like Gecko) Chrome/ Safari/530.9 '
}
request = urllib.request.Request(url = url,headers=headers)
response = urllib.request.urlopen(request)
with open('hh.html','w',encoding='utf8') as fp:  #这里使用，encoding进行编码才可以解决保存问题
    fp.write(response.read().decode('utf8'))
fp.close()