PHP抓取网页内容获得网页源代码

本文介绍了使用PHP抓取网页内容的三种方法:1)file_get_contents函数,2)fopen和fread组合,3)CURL库。通过这些方法,可以获取指定URL的网页源代码。同时,提到了UserAgent设置对抓取的影响及其重要性。

1、 file_get_contents获取

[php]  view plain  copy
  1. $url="http://www.baidu.com/";  
  2. $fhfile_get_contents('http://www.hxfzzx.com/news/fzfj/');  
  3. echo $fh;  

2、使用fopen获取网页源代码

[php]  view plain  copy
  1. $url="http://www.baidu.com/";  
  2. $handle = fopen ($url"rb");   
  3. $contents = "";   
  4. while (!feof($handle)) {   
  5. $contents .= fread($handle, 8192);   
  6. }   
  7. fclose($handle);   
  8. echo $contents//输出获取到得内容。  

3、使用CURL获取网页源代码

[php]  view plain  copy
  1. $url="http://www.baidu.com/";  
  2. $UserAgent = 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; SLCC1; .NET CLR 2.0.50727; .NET CLR 3.0.04506; .NET CLR 3.5.21022; .NET CLR 1.0.3705; .NET CLR 1.1.4322)';  
  3. $curl = curl_init();    //创建一个新的CURL资源  
  4. curl_setopt($curl, CURLOPT_URL, $url);  //设置URL和相应的选项  
  5. curl_setopt($curl, CURLOPT_HEADER, 0);  //0表示不输出Header,1表示输出  
  6. curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);  //设定是否显示头信息,1显示,0不显示。  
  7. //如果成功只将结果返回,不自动输出任何内容。如果失败返回FALSE  
  8.   
  9. curl_setopt($curl, CURLOPT_SSL_VERIFYPEER, false);  
  10. curl_setopt($curl, CURLOPT_SSL_VERIFYHOST, false);  
  11. curl_setopt($curl, CURLOPT_ENCODING, '');   //设置编码格式,为空表示支持所有格式的编码  
  12. //header中“Accept-Encoding: ”部分的内容,支持的编码格式为:"identity","deflate","gzip"。  
  13.   
  14. curl_setopt($curl, CURLOPT_USERAGENT, $UserAgent);  
  15. curl_setopt($curl, CURLOPT_FOLLOWLOCATION, 1);  
  16. //设置这个选项为一个非零值(象 “Location: “)的头,服务器会把它当做HTTP头的一部分发送(注意这是递归的,PHP将发送形如 “Location: “的头)。  
  17.   
  18. $data = curl_exec($curl);   
  19. echo $data;  
  20. //echo curl_errno($curl); //返回0时表示程序执行成功  
  21. curl_close($curl);  //关闭cURL资源,并释放系统资源  


转载自:


引用:

PHP抓取采集类snoopy介绍: http://www.nowamagic.net/librarys/veda/detail/855 

PHP获取网页内容的几种方法:    

http://www.oschina.net/code/snippet_861770_19638

http://www.webkaka.com/tutorial/php/2013/052534/

UserAgent设置不当导致php抓取网页失败:

http://www.webkaka.com/tutorial/php/2013/111846/

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值