C#用HttpWebRequest通过代理服务器验证后抓取网页内容

本文介绍了一种通过设置代理服务器的方式,利用HttpWebRequest组件实现网页抓取的方法。具体包括配置代理服务器地址、端口及认证信息等步骤。
大家知道,用HttpWebRequest可以通过Http对网页进行抓取,但是如果是内网,而且是通过代理上网的用户,如果直接进行操作是行不通的。
那有没有什么办法呢?
当然有,呵呵,见以下代码:

None.gifstring urlStr = "http://www.domain.com";                            //設定要獲取的地址
None.gif
HttpWebRequest hwr = (HttpWebRequest)HttpWebRequest.Create(urlStr);    //建立HttpWebRequest對象
None.gif
hwr.Timeout = 60000;                                                //定義服務器超時時間
None.gif
WebProxy proxy = new WebProxy();                                    //定義一個網關對象
None.gif
proxy.Address = new Uri("http://proxy.domain.com:3128");            //網關服務器:端口
None.gif
proxy.Credentials = new NetworkCredential("f3210316""6978233");    //用戶名,密碼
None.gif
hwr.UseDefaultCredentials = true;                                    //啟用網關認証
None.gif
hwr.Proxy = proxy;                                                    //設置網關
None.gif
HttpWebResponse hwrs = (HttpWebResponse)hwr.GetResponse();            //取得回應
None.gif
Stream s = hwrs.GetResponseStream();                                //得到回應的流對象
None.gif
StreamReader sr = new StreamReader(s, Encoding.UTF8);                //以UTF-8編碼讀取流
None.gif
StringBuilder content = new StringBuilder();                        //
None.gif
while (sr.Peek() != -1)                                                //每次讀取一行,直到
ExpandedBlockStart.gifContractedBlock.gif
dot.gif{                                                                    //下一個字節沒有內容
InBlock.gif
    content.Append(sr.ReadLine()+"\r\n");                            //返回為止
ExpandedBlockEnd.gif
}
                                                                    //
None.gif
return content.ToString() ;                                            //返回得到的字符串

转载于:https://www.cnblogs.com/leonny/archive/2007/06/21/791435.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值