php采集书

本文介绍了一个使用PHP编写的脚本,该脚本能够爬取指定网站上的书籍章节,并将其保存为本地TXT文件。此外,脚本还对获取的内容进行处理,提取章节标题与正文,最终整合成一本书。

编辑器加载中...

版权声明:原创作品,允许转载,转载时请务必以超链接形式标明文章原始出版、作者信息和本声明。否则将追究法律责任。http://blog.youkuaiyun.com/mayongzhan - 马永占,myz,mayongzhan

记得上次有过一个叫采集后的处理
这个就是它的升级版本
连采再处理,合成一本书txt的。

<?php
/**
 * @name 采集书.php
 * @date Sun Mar 01 22:48:02 CST 2009
 * @copyright 马永占(MyZ)
 * @author 马永占(MyZ)
 * @link http://blog.youkuaiyun.com/mayongzhan/
 */

//header('Content-Type:text/html;charset=utf8');
header('Content-Type:text/html;charset=gb2312');
error_reporting(E_ALL);
date_default_timezone_set('Asia/Shanghai');
set_time_limit(0);

function writer($content,$url)
{
 $fp = fopen($url, 'ab');
 fwrite($fp, $content);
 fclose($fp);        
}

$folder = '2'; //文件夹

$book_base_url = 'xxxxxxxxxxxxxxxxxxxxx';

$book_url = 'yyyyyyyyyyyyy.html';

$main = file_get_contents($book_base_url.$book_url);

preg_match_all('/chapter_.*?/.html/', $main, $pages);

$pages = array_unique($pages[0]);

foreach ($pages as $value) {
 writer(file_get_contents($book_base_url.$value), './'.$folder.'/'.$value.'.txt');
 
 $str = file_get_contents('./'.$folder.'/'.$value.'.txt');
 
 //print_r($str);
 preg_match("/(<h1>)(.*?)(<//h1>)(.*?)(<div id=/"contTxt/" class=/"contTxt1/">)(.*?)(<//div>)/s",$str,$arr);
 //print_r($arr);die();
 $arr[6] = preg_replace("/(<span[^>]+>.*?<a[^>]+>)(.*?)(<//a><//span>)/s","$2",preg_replace("/<p>|<//p>/","/r/n",$arr[6]));
 $result = "/r/n------------------------------------------------/r/n------------------------------------------------/r/n------------------------------------------------/r/n----------------".$arr[2]."/r/n------------------------------------------------/r/n------------------------------------------------/r/n------------------------------------------------/r/n".$arr[6];
 writer($result, './'.$folder.'/new.txt');
}
?>

转载于:https://www.cnblogs.com/xingyong/archive/2011/07/17/2108631.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值