有一个需求,把网页上的菜单的数据保存到数据库中,很显然网页上的菜单是一棵树,而关系型数据库是线性的,因为菜单的结构比较简单,所以采用“路径枚举”的方法把菜单保存到数据库中。具体如下:
因为菜单的每个节点都不超过99个子节点,所以每层的编码都用两位数字表示,例如“食品”下的第一个子节点“水果及其制品”用01表示,第二个子节点“蔬菜及其制品”用02表示。“水果及其制品”下的第一个子节点“新鲜水果”用0101表示,其中开始的01部分表示“水果及其制品”,后一部分的01表示“新鲜水果”是“水果及其制品”的第一个子节点,这样对于每个节点通过这种编码可以把从根节点到子节点的整个路径都列出来。具体请仔细看上述图片。
下面的代码实现解析菜单结构,实现菜单上的节点的路径编码。
from urllib import request
#需安装bs4库,用于解析网页的内容
from bs4 import BeautifulSoup
#设置一个空的字典变量,key为路径编码,value为菜单节点的内容
codes = {}
def generateCode(ul,code):
#注意!不适用递归方式找li,即我们只找ul的下一级的li,而不找更深层的li
lis = ul.find_all('li',recursive=False)
if lis != None:
for i in range(0,len(lis)):
#因为存在单个数字的情况,比如1,我们要写成01,所以用了zfill函数,自动补充前面的0
nextCode = code + str(i+1).zfill(2)
food =lis[i].find('a').text
codes[nextCode] = food
nextUL = lis[i].find('ul')
#如果li下还有ul,则递归调用generateCode函数
if nextUL !=None:
generateCode(nextUL,nextCode)
#获得网页,并按utf-8编码读取
html = request.urlopen("http://2762.foodvip.net/").read().decode('utf-8')
soup = BeautifulSoup(html,'lxml')
#从网页找到id为menu,class为off的ul,即图片上的“食品”这个节点
ul = soup.find('div',id='menu').find('ul',attrs={'class':'off'})
generateCode(ul,'')
#输出结果
for code in codes:
print(code+":"+codes[code])
输出结果如下:(因为太长,所以图片只截取前面一些项目)