Beautiful Soup

1. 什么是Beautiful Soup

截止到目前，BeautifulSoup（3.2.1版本）已经停止开发，官网推荐现在的项目使用beautifulsoup4（BeautifulSoup 4版本，简称为bs4）开发。

bs4是一个HTML/XML的解析器，主要的功能是解析和提取HTML/XML数据，它提供了多种查找和定位元素的方式, 实现了惯用的方式查找和定位元素，从而节省了大量的工作时间，提高了开发项目的效率。

四大对象

bs4库会将复杂的HTML文档换成树结构（HTML DOM），这个结构中的每个节点都是一个Python对象，这些对象可以归纳为如下四种：

 

• bs4.BeautifulSoup类：表示HTML DOM中的全部内容，支持遍历文档树和搜索文档树的大部分方法。
• bs4.element.Tag类：表示HTML中的标签，最基本的信息组织单元。它有两个非常重要的属性，分别为表示标签名字的name属性，表示标签属性的attrs属性。
• bs4.element.NavigableString类：表示HTML中标签的文本字符串（非属性字符串）。
• bs4.element.Comment类：表示标签内字符串的注释部分，是一种特殊的NavigableString对象。
• 首先安装bs4:

pip install bs4

• 如果安装时候总是Retry可以修改pip源进行安装:

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple bs4

使用bs4的一般流程如下：

• 第1步：创建一个BeautifulSoup类型的对象
  • 根据HTML或者文件创建BeautifulSoup对象。
• 第2步：通过上述对象的操作方法进行解读搜索
  • 根据DOM树进行各种节点的搜索（比如，find_all方法可以搜索出所有满足要求的节点，find方法只会搜索出第一个满足要求的节点），只要获得了一个节点，就可以访问节点的名称、属性和文本。
• 第3步：利用DOM树结构标签的特性，进行更为详细的节点信息提取
  • 在搜索节点的时候，我们也可以按照节点的名称、节点的属性或者节点的文字进行搜索。