PythonSpider示例代码

最新推荐文章于 2021-02-03 09:57:26 发布

原创最新推荐文章于 2021-02-03 09:57:26 发布 · 516 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#python

python爬虫专栏收录该内容

1 篇文章

订阅专栏

这段代码演示了如何使用Python的requests库抓取百度首页的内容，并将其保存到本地文件baidu.html中。通过设置User-Agent避免被网站屏蔽，然后打印响应状态码和HTML文本。

PythonSpider示例代码

爬取百度首页

import requests

url = "https://www.baidu.com"
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.61 Safari/537.36'}

response = requests.get(url=url,headers=headers)
# response.encoding = "utf-8"
print(response.status_code)
print(response.text)
with open('baidu.html',"w",encoding="utf-8") as f:   
    f.write(response.text)
    f.close()