使用java httpclient爬取一些简单的网页

本文深入讲解了HttpClient的主要功能,包括支持所有HTTP方法、自动转向、HTTPS协议和代理服务器。通过一个简单实例展示了如何使用HttpClient进行网页爬取,适用于需要高效处理HTTP请求的开发者。

HttpClient 是Apache Jakarta Common 下的子项目,可以用来提供高效的、最新的、功能丰富的支持 HTTP 协议的客户端编程工具包,并且它支持 HTTP 协议最新的版本和建议。

HttpClient 提供的主要的功能有:
(1)实现了所有 HTTP 的方法(GET,POST,PUT,HEAD 等)
(2)支持自动转向
(3)支持 HTTPS 协议
(4)支持代理服务器等

个人写了一个简单的实例用来爬取一些简单的网页如下:
导入需要的jar包我这里用的是maven 在这里插入图片描述
在这里插入图片描述

这里需要注意点的是需要抛出异常我这里直接用了throws

如果有什么地方没有写好的麻烦大神指点指点

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

故事很长丶空

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值