通过分析html格式确定网页主体内容的想法
做Web编程有时候需要了解html文件的大小,组成等信息,为以后的各种处理做准备。比如通过crawler抓取网页对网页内容自动分类的时候,最好能提取网页中的主要信息,过滤掉页头,页角的非主体信息;还有比较2个网页内容相关性的时候也需要类似的技术。最简单的还有:分析一个网页中使用IFrame的个数,内外链接个数比例等都需要对Html文件格式做分析。
要想知道网页的那个部分是主要部分,应该有很多判断标准。我们先从最简单的表格说起。现在大部分的网页组成都是由表格做框架。那么通过分析html页面中的表格的占位(height,weight)大小就可以来确定表格的主次关系了。
技术上问题不大,但是对于分析sina,sohu这样的主页效果可能不好,因为里面全是表格。
所以想从分析一些新闻页开始,不知道大家有没有什么好的注意!!
这里是一个小程序可以提取页面中所有的iframe。
基于HTML格式分析确定网页主体内容
Web编程中,了解HTML文件信息很重要,如抓取网页自动分类、比较网页相关性等都需分析HTML格式。可通过分析HTML页面表格占位大小确定主次关系,但分析新浪、搜狐主页效果不佳,可从新闻页开始分析,还给出提取页面iframe的小程序。
1563

被折叠的 条评论
为什么被折叠?



