适python3的关于python爬取百度百科词条完整代码及一些小问题

ps：本文代码参照慕课网教学视频《python开发简单爬虫》，网址：https://www.imooc.com/learn/563  

个人觉得是个很好的初学爬虫的教程，，它可以让你遇到很多问题。。。

下面是代码部分。

1.spider-main.py

# coding=gbk
from baidu_spider import url_manager, html_downloader, html_parser,\
    html_outputer
import ssl
ssl._create_default_https_context = ssl._create_unverified_context
class SpiderMain(object): 
    def __init__(self):     #创建属性 创建四个对象 
        self.urls = url_manager.UrlManager()      #需要引用和创建class
        self.downloader = html_downloader.HtmlDownloader()
        self.parser = html_parser.HtmlParser()
        self.outputer = html_outputer.HtmlOutputer()

    
    def craw(self, root_url):     #创建调用方法
        count = 1      #记录url的数字
        self.urls.add_new_url(root_url)      #需要将待爬url添加进url管理器，各个方法还需创建
        while self.urls.has_new_url():      #当url管理器中有待爬url时启动循环
            try:        #可能存在异常，加入try块
                new_url = self.urls.get_new_url()      #获取一个待爬url
                print('craw %d : %s' % (count,new_url)) 
                html_cont=self.downloader.downloader(new_url)     # 下载这个url页面
                new_urls,new_data = self.parser.parse(new_url,html_cont)     #传入解析器
                self.urls.add_new_urls(new_urls)      #将相关的url传入url管理器
                self.outputer.collect_data(new_data)     #进行数据收集
                
                if count == 100:
                    break
                
                count= count + 1
            except:
                print("craw failed")    
        self.outputer.output_html()    
    

    
if __name__=="__main__":        #main函数
    root_url ="https://baike.baidu.com/item/Python/407313?fr=aladdin"      #爬取的入口url
    obj_spider = SpiderMain()      # 需先创建Spider Main类
    obj_spider.craw(root_url)       #调用craw方法启功爬虫，就需要先创建craw方法

2.url_manager.py （url管理器）

# coding:utf8     
# 写成coding=gbk也可以
class UrlManager(object):
    def __init__(self): 
        self.new_urls = set()
        self.old_urls = set()
    
    def add_new_url(self,url): 
        if url is None:
            return
        if url not in self.new_urls and url not in self.old_urls:
            self.new_urls.add(url)

    def add_new_urls(self,urls):  
        if urls is None or len(urls) ==0:
            return
        for url in urls:
            self.add_new_url(url)
    
    def has_new_url(self): 
        return len(self.new_urls) !=0
    
    def get_new_url(self):
        new_url =self.new_urls.pop()
        self.old_urls.add(new_url)
        return new_url

3.html_downloader.py   （url下载器）

# coding:utf8
from urllib.request import urlopen          # 区分python2.x urllib2 ，python3对urllib，urllib2进行了调整，具体可百度


class HtmlDownloader(object):
    
    
    def downloader(self,url):  
        if url is None:
            return None  
        
        response = urlopen(url)    #因为urllib调整了，所有此部分与视频不同
        
        if response.getcode( ) != 200:
            return None
        
        return response.read()

4.html_parser.py  （url解析器）

import re
import urllib.parse         # python2.x 为 urlparse，这部分python3.x也做了修改
from bs4 import BeautifulSoup


class HtmlParser(object):
    def _get_new_urls(self,page_url,soup):
        new_urls=set()
        links=soup.find_all('a',href=re.compile(r"/item/\d+"))  #正则表达式，网页做了修改，红字部分现在与视频不同了，具体可以检查元素
        for link in links:
            new_url=link['href']
            new_full_url=urllib.parse.urljoin(page_url, new_url)
            new_urls.add(new_full_url)
        return new_urls

    
    def _get_new_data(self,page_url,soup):
        res_data={}
        res_data['url']=page_url
        title_node=soup.find('dd',class_='lemmaWgt-lemmaTitle-title').find('h1')
        res_data['title']=title_node.get_text()
        summary_node=soup.find('div',class_='lemma-summary')
        if summary_node is None:
            return
        
        res_data['summary']=summary_node.get_text()
        return res_data

    def parse(self,page_url,html_cont):
        if page_url is None or html_cont is None:
            return

        soup=BeautifulSoup(html_cont,'html.parser')
        new_urls=self._get_new_urls(page_url,soup)          #需创建方法
        new_data=self._get_new_data(page_url,soup)
        return new_urls,new_data 

5.html_outputer.py  （输出数据）

# coding:utf8

class HtmlOutputer(object):
    def __init__(self):
        self.datas = []
    
    def collect_data(self,data):
        if data is None:
            return
        self.datas.append(data)

    
    def output_html(self):
        fout = open('output4.html','w',encoding = 'utf-8')     #创建一个html储存下载的数据，原视频没有红色部分
        fout.write("<html>")    
        fout.write("<body>")
        fout.write("<table>")
        
        for data in self.datas:
            fout.write("<tr>")
            fout.write("<td>%s</td>" % data['url'])
            fout.write("<td>%s</td>" % data['title'])  #原视频这两句后有encide(utf-8),不会报错，但输出的数据是乱码
            fout.write("<td>%s</td>" % data['summary'])
            fout.write("</tr>")
        
        fout.write("</table>")         #输出为表格形式
        fout.write("</body>")
        fout.write("</html>")
    
        fout.close()

下面是运行结果：博主完全属于python小白，更是爬虫小白，这只是模仿视频做的东西都错误百出，花了很久才完成，很希望能遇到和我一样犯错的初学者啊，找到共同学习的小伙伴，一起学习，一起进步，一起开车。。。嘀嘀嘀~也希望若有大神们看到了小弟的文章，，可以不嫌弃，带带我，因为真的有很多东西不懂，比如那编码什么的为什么有时候需要utf-8，有时候又不要，对正则表，达式也好像似懂非懂，诚心求教，随意批评。