.NET获取页面内容

预览图片见:http://www.cnblogs.com/xxpyeippx/archive/2008/03/31/1131211.html运行环境windows nt/xp/2003 or above.net Framework 1.1SqlServer 2000 开发环境 VS 2003目的学习了网络编程,总要做点什么东西才好。于是想到要做一个网页内容采集器。作者主页: http://www.fltek.com.cn使用方式测试数据采用自cnBlog。见下图用户首先填写“起始网页”,即从哪一页开始采集。然后填写数据库连接字符串,这里是定义了采集到的数据插入到哪个数据库,后面选择表名,不必说了。网页编码,不出意外的话,中国大陆都可以采用UTF-8爬取文件名的正则:呵呵 这个工具明显是给编程人员用的。正则都要直接填写啦。比如说cnblogs的都是数字的,所以写了\d建表帮助:用户指定要建立几个varchar型的,几个text型的,主要是放短数据和长数据啊。如果你的表里本来就有列,那就免啦。程序里面没有做验证哦。网页设置里面:采集内容前后标记:比如说都有 xxx,如果我要采集xxx就写“到”,意思,当然就是到之间的内容啦。后面的几个文本框是显示内容的。点击“获取URL”可以查看它捕获的Url对不对的。点击“采集”,可以把采集内容放到数据库,然后就用 Insert xx () (select xx) 可以直接插入目标数据了。程序代码量非常小(也非常简陋),需要的改动一下啦。不足 应用到了正则表达式、网络编程由于是最简单的东西,所以没有用多线程,没有用其他的优化方法,不支持分页。测试了一下,获取38条数据,用了700M内存啊。。。。如果有用的人 ,可以改一下使用啦。方便程序员用,免写很多代码。Surance Yin@ Surance Center 转载请注明出处
vb.net可以使用HttpWebRequest和HttpWebResponse类来获取网页内容。 首先,我们需要导入System.Net命名空间。 然后,可以使用HttpWebRequest类创建一个请求对象,并设置请求的URL地址和其他相关属性。例如: ```vb Dim request As HttpWebRequest = CType(WebRequest.Create("http://www.example.com"), HttpWebRequest) request.Method = "GET" request.UserAgent = "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3" ``` 在上面的代码中,我们创建了一个GET请求对象,并设置了请求的URL和User-Agent头部信息。 接下来,可以使用HttpWebResponse类发送请求,并获取服务器返回的响应。例如: ```vb Dim response As HttpWebResponse = CType(request.GetResponse(), HttpWebResponse) ``` 通过上面的代码,我们发送Get请求,并获得服务器的响应。 最后,我们可以通过响应对象的GetResponseStream方法获取到服务器返回的内容,并读取出来。例如: ```vb Dim reader As New StreamReader(response.GetResponseStream(), Encoding.[Default]) Dim content As String = reader.ReadToEnd() ``` 通过上面的代码,我们使用StreamReader类读取响应的内容,并保存到一个字符串中。 最终,我们可以使用content变量来获取到网页的内容。 以上就是使用vb.net获取网页内容的基本步骤。当然,还可以根据具体需求对请求和响应进行更多的设置和操作。例如,可以设置请求的超时时间、添加请求头部信息等。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值