C#中实现网页下载

第一种方法:
    【简述】:使用Webbrowser控件读取网页,将网页中的数据读成二进制的,然后使用File.WriteAllBytes()写入文件中
	private void GetWebStream()
	{
		Stream stream = webShow.DocumentStream;
                buffer = new byte[stream.Length];
                stream.Read(buffer, 0, Convert.ToInt32(stream.Length));
                //File.WriteAllBytes(address, buffer);
		stream.Write(buffer,0,Convert.ToInt32(stream.length));
	}

第二种方法:
	private void GetWebStream()
	{
	    HttpWebRequest Req = (HttpWebRequest)WebRequest.Create(webBrowser1.Url);

            Req.UserAgent = "Mozilla/4.0(compatible;MSIE 6.0;Windows NT 5.0; .NET CLR 1.1.4322)";
            Req.Timeout = 30000;

            try
            {
                StreamReader responseReader = new StreamReader(Req.GetResponse().GetResponseStream(), Encoding.Default);
                string responseData = responseReader.ReadToEnd();
                responseReader.Close();

                StreamWriter sw = new StreamWriter(@"index.html", false, Encoding.Default);
                sw.Write(responseData);
                sw.Close();
            }
            catch (Exception ex)
            {
                Console.WriteLine(ex);
            }
	}

第三种方法:
	 private void button1_Click(object sender, EventArgs e)
        {
            string filename = "index.html";
            string url = webBrowser1.Url.ToString();
            string localPath = "F://";
            DownloadOneFIleByUrlWithWebclient(filename, url, localPath);
        }

        private void DownloadOneFIleByUrlWithWebclient(string filename,string url,string localPath)
        {
            System.Net.WebClient wc = new System.Net.WebClient();
            if (File.Exists(localPath + filename) == false) 
            {
                Directory.CreateDirectory(localPath);
            }

            wc.DownloadFile(url, localPath + filename);

        }

 
预览图片见:http://www.cnblogs.com/xxpyeippx/archive/2008/03/31/1131211.html运行环境windows nt/xp/2003 or above.net Framework 1.1SqlServer 2000 开发环境 VS 2003目的学习了网络编程,总要做点什么东西才好。于是想到要做一个网页内容采集器。作者主页: http://www.fltek.com.cn使用方式测试数据采用自cnBlog。见下图用户首先填写“起始网页”,即从哪一页开始采集。然后填写数据库连接字符串,这里是定义了采集到的数据插入到哪个数据库,后面选择表名,不必说了。网页编码,不出意外的话,中国大陆都可以采用UTF-8爬取文件名的正则:呵呵 这个工具明显是给编程人员用的。正则都要直接填写啦。比如说cnblogs的都是数字的,所以写了\d建表帮助:用户指定要建立几个varchar型的,几个text型的,主要是放短数据和长数据啊。如果你的表里本来就有列,那就免啦。程序里面没有做验证哦。网页设置里面:采集内容前后标记:比如说都有 xxx,如果我要采集xxx就写“到”,意思,当然就是到之间的内容啦。后面的几个文本框是显示内容的。点击“获取URL”可以查看它捕获的Url对不对的。点击“采集”,可以把采集内容放到数据库,然后就用 Insert xx () (select xx) 可以直接插入目标数据了。程序代码量非常小(也非常简陋),需要的改动一下啦。不足 应用到了正则表达式、网络编程由于是最简单的东西,所以没有用多线程,没有用其他的优化方法,不支持分页。测试了一下,获取38条数据,用了700M内存啊。。。。如果有用的人 ,可以改一下使用啦。方便程序员用,免写很多代码。Surance Yin@ Surance Center 转载请注明出处
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值