理解爬虫原理

最新推荐文章于 2025-09-10 11:30:58 发布

Angela㐅cc

最新推荐文章于 2025-09-10 11:30:58 发布

阅读量181

点赞数

CC 4.0 BY-SA版权

文章标签：爬虫 json

原文链接：http://www.cnblogs.com/666hll1212123/p/10592821.html

本文简述了爬虫的工作原理及开发过程，包括浏览器的工作流程、使用requests库抓取网页数据的方法、用BeautifulSoup解析HTML内容的技术，并展示了如何从具体网页中提取所需信息。

作业要求：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2851

1. 简单说明爬虫原理

简单来说互联网是由一个个站点和网络设备组成的大网，我们通过浏览器访问站点，站点把HTML、JS、CSS代码返回给浏览器，这些代码经过浏览器解析、渲染，将丰富多彩的网页呈现我们眼前

2. 理解爬虫开发过程

1).简要说明浏览器工作原理（流程）

（1）：向服务器发起请求，通过HTTP库向目标站点发起请求，即发送一个Request，请求可以包含额外的headers等信息，等待服务器的响应。

（2）：获取响应内容如果服务器正常响应，会得到一个Response，Response的内容便是所要获取的页面内容，类型可能有HTML、JSON、二进制文件（如图片、视频等类型）。

（3）：解析内容得到的内容可能是HTML，可以用正则表达式、网页解析库进行解析。可能是JSON，可以直接转成JOSN对象进行解析，可能是二进制数据，可以保存或者进一步处理

（4）：保存内容保存形式多样，可以保存成文本，也可以保存至数据库，或者保存成特定格式的文件。

2).使用 requests 库抓取网站数据；

requests.get(url) 获取校园新闻首页html代码

url='http://news.gzcc.cn/html/xiaoyuanxinwen/'
res=requests.get(url)

3).了解网页

写一个简单的html文件

<html>
<head>
<meta charset="utf-8">
<title>html简单实例</title>
</head>
<body>
 <h1>这是第一个标题</h1>
 <h2>这是第二个标题</h2>
 <h3>这是第三个标题</h3>
 <h4>这是第四个标题</h4>
 <h5>这是第五个标题</h5>
 <h6>这是第六个标题</h6>
 <p>这是个段落</p>
 <hr />
 <!---这是一条水平线--->
<font side = "6">这是六号<br>字体</font>
 </body>
</html>