爬虫,就是按照一定的规则,自动的从网络中抓取信息的程序或者脚本。
python 自带的电池:

URL的一般格式为(带方括号[]的为可选项):
protocol:// hostnamet[:port] / path / [;parameters][?query]#fragment
URL由三部分组成:
--- 第一部分是协议:http, https, ftp, file, ed2kSo
--- 第二部分是存放资源的服务器的域名系统或IP地址(有时候要包含端口号,各种传输协议都有默认的端口号,如http的默认端口为80)
--- 第三部分是资源的具体地址,如目录或文件名等。
1. Urllib
Urllib是python内置的HTTP请求库
包括以下模块
urllib.request 请求模块
urllib.error 异常处理模块
urllib.parse url解析模块
urllib.robotparser robots.txt解析模块
>>> import urllib.request
>>> respons = urllib.request.urlopen ("http://www.dishc.com")
>>> html = respons.read()
>>> print (html)
输出:

上图是一个二进制编码之后的操作,我们要对其进行解码操作:


本文介绍爬虫的概念,即遵循一定规则自动抓取网络信息的程序。详细解析了URL的构成,包括协议、服务器地址和资源路径,并介绍了Python内置的Urllib库,包括request请求模块、error异常处理模块、parseurl解析模块和robotparserrobots.txt解析模块。

被折叠的 条评论
为什么被折叠?



