curl 常用命名整理

基础命令

详细命名可参考 https://man.linuxde.net/curl

查看网页源码 curl www.sina.com

-o 保存网页相当于 wget curl -o [文件名] www.sina.com

-L 抓取自动跳转页面,www.sina.com 会自动跳转到www.sina.com.cn ,该参数会返回跳转后的内容 curl -L www.sina.com

-i 查看response头,保括Content内容

-I 只查看response头

-v 显示一次http通信的整个过程,包括端口连接和http request头信息

-X 传递curl动作,curl默认动作是get,使用 -X 传入其他动作:curl -X POST www.example.com

–trace 或 --trace-ascii 会将更详细的通信过程输出到文件,curl --trace output.txt www.sina.com

–referer 有时你需要在http request头信息中,提供一个referer字段,表示你是从哪里跳转过来的, curl --referer http://www.example.com http://www.example.com

–user-agent 设置客户端的设备信息例如:Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_0 like Mac OS X; en-us) AppleWebKit/532.9 (KHTML, like Gecko) Version/4.0.5 Mobile/8A293 Safari/6531.22.7 curl --user-agent “[User Agent]” [URL]

–cookie 使用–cookie参数,可以让curl发送cookie, curl --cookie “name=xxx” www.example.com,

-c cookie-file可以保存服务器返回的cookie到文件,-b cookie-file可以使用这个文件作为cookie信息,进行后续的请求. curl -c cookies http://example.com, curl -b cookies http://example.com

Post 提交

curl 表单提交

curl -X POST --data “data=xxx” example.com/form.cgi

对表单数据编码 --data-urlencode

curl -X POST–data-urlencode “date=April 1” example.com/form.cgi

curl post xml报文

echo 'xxxx '| curl -X POST -H ‘Content-type:text/xml’ -d @- http://1.1.1.1:8081/loginregistration/register

cat 1.xml | curl -X POST -H ‘Content-type:text/xml’ -d @- http://1.1.1.1::8081/httpInvokeServlet
注解: xxxx是xml报文内容 1.xml 报文文件 @- 读取管道符内容

curl post json 报文

curl -H “Content-Type:application/json” -X POST --data ‘xxxx’ http://1.1.1.1:18080/
cat 1.json | curl -H “Content-Type:application/json” -X POST -d @- http://1.1.1.1:8081/httpInvokeServlet

注解: xxxx是json报文内容 1.json 报文文件 @- 读取管道符内容

代理方式

使用普通转发代理访问:
curl -x http://127.0.0.1:80 -H ‘Content-Type:application/json’ -v http://www.baidu.com
使用隧道代理方式访问:
curl -x http://127.0.0.1:80 -x CONNECT -v http://www.baidu.com

查看不同出口网络IP

多次 curl -v -k https://v4.ident.me,查看证书被替换和未被替换的状态下是否是一个网络出口
在这里插入图片描述

traceroute hosts 查看网络报文的路径,排查出网路径中是否存在华为或其他具有网络代理、网络行为管理的网络设备,并检查配置是否正确

### Ubuntu 下载文件命令示例 在 Ubuntu 系统中,可以使用多种方法来下载文件。以下是一些常见的下载工具及其具体用法: #### 使用 `wget` 命令 `wget` 是一个强大的命令行工具,用于从网络上下载文件。它支持 HTTP、HTTPS 和 FTP 协议,并能够断点续传。 ```bash wget [选项] URL ``` 例如,要下载一个文件并保存到当前目录,可以直接运行以下命令: ```bash wget http://example.com/file.zip ``` 如果希望指定文件名,则可使用 `-O` 参数[^1]: ```bash wget -O newfilename.zip http://example.com/file.zip ``` #### 使用 `curl` 命令 `curl` 同样是一个功能丰富的命令行工具,主要用于传输数据。虽然它的主要目的是发送请求,但它也可以用来下载文件。 基本语法如下: ```bash curl [选项] URL ``` 通过添加参数 `-o` 或 `-O` 可以将远程资源保存为本地文件。其中,`-o` 允许手动命名目标文件,而 `-O` 则保留原始文件名。 ```bash curl -O http://example.com/file.zip ``` 或者重命名为其他名称: ```bash curl -o myfile.zip http://example.com/file.zip ``` #### 使用 `ftp` 命令 对于需要通过 FTP 协议访问服务器的情况,可以利用内置的 `ftp` 工具完成操作。连接至远程站点后,可以通过交互方式执行上传或下载任务。 启动客户端并与特定主机建立会话的方法很简单: ```bash ftp ftp.example.com ``` 登录成功之后输入相应的指令获取所需资料比如前面提到过的例子中的列表查看以及实际抓取动作均能实现[^3]: ```plaintext ftp> get test.pdf /local/path/to/save/test.pdf ``` #### 打包与压缩后的处理 当涉及到已打包和压缩的数据集时,可能还需要额外步骤来进行提取工作。这里列举了一些常用的操作指南[^2]: - 解压 `.tar.gz` 类型档案: ```bash tar -zxvf file.tar.gz ``` - 对于单独 gzip 的文档来说只需简单调用即可展开其内容: ```bash gunzip file.gz ``` 以上就是在 ubuntu 平台上几种主流途径达成在线素材转移目的的同时兼顾后续整理需求的一些技巧分享。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

竹二木

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值