cURL笔记

cURL 是利用URL语法在命令行方式下工作的开源文件传输工具。它被广泛应用在Unix、多种Linux发行版中,并且有DOS和Win32、Win64下的移植版本。

cURL 可以很方便地完成对 REST API 的调用场景,比如:设置 Header,指定 HTTP 请求方法,指定 HTTP 消息体,指定权限认证信息等。通过 -v 选项也能输出 REST 请求的所有返回信息。cURL 功能很强大,有很多参数,这里列出 REST 测试常用的参数:

-X/--request [GET|POST|PUT|DELETE|…]  指定请求的 HTTP 方法
-H/--header                           指定请求的 HTTP Header
-d/--data                             指定请求的 HTTP 消息体(Body)
-v/--verbose                          输出详细的返回信息
-u/--user                             指定账号、密码
-b/--cookie                           读取 cookie  

典型的测试命令为:

$ curl -v -XPOST -H "Content-Type: application/json" http://127.0.0.1:8080/user -d'{"username":"admin","password":"admin1234"}'...

可以通过下面命令查看curl支持的选项:

curl -h

最简单的使用

curl http://www.centos.org

获取服务器内容,默认将输出打印到标准输出中(STDOUT)中。

下载内容到指定路径

通过-o/-O选项保存下载的文件到指定的文件中:

-o:将文件保存为命令行中指定的文件名的文件中
-O:使用URL中默认的文件名保存文件到本地

curl -o mygettext.html http://www.gnu.org/software/gettext/manual/gettext.html

curl -O http://www.gnu.org/software/gettext/manual/gettext.html

使用多个-O可以同时获取多个文件内容。若同时从同一站点下载多个文件时,curl会尝试重用链接(connection)。

断点续传

通过使用-C选项可对大文件使用断点续传功能,如:

# 当文件在下载完成之前结束该进程
$ curl -O http://www.gnu.org/software/gettext/manual/gettext.html
##############             20.1%

# 通过添加-C选项继续对该文件进行下载,已经下载过的文件不会被重新下载
curl -C - -O http://www.gnu.org/software/gettext/manual/gettext.html
###############            21.1%

需要注意的是-C参数后值是-

下载限速

通过--limit-rate选项对CURL的最大网络使用进行限制:

# 下载速度最大不会超过1000B/second 
curl --limit-rate 1000B -O http://www.gnu.org/software/gettext/manual/gettext.html

下载指定时间内修改过的文件

当下载一个文件时,可对该文件的最后修改日期进行判断,如果该文件在指定日期内修改过,就进行下载,否则不下载。

该功能可通过使用-z选项来实现:

# 若yy.html文件在2011/12/21之后有过更新才会进行下载
curl -z 21-Dec-11 http://www.example.com/yy.html

CURL授权

在访问需要授权的页面时,可通过-u选项提供用户名和密码进行授权

curl -u username:password URL

# 通常的做法是在命令行只输入用户名,之后会提示输入密码,这样可以保证在查看历史记录时不会将密码泄露
curl -u username URL

从FTP服务器下载文件

CURL同样支持FTP下载,若在url中指定的是某个文件路径而非具体的某个要下载的文件名,CURL则会列出该目录下的所有文件名而并非下载该目录下的所有文件:

# 列出public_html下的所有文件夹和文件
curl -u ftpuser:ftppass -O ftp://ftp_server/public_html/

# 下载xss.php文件
curl -u ftpuser:ftppass -O ftp://ftp_server/public_html/xss.php

上传文件到FTP服务器

通过 -T 选项可将指定的本地文件上传到FTP服务器上

# 将myfile.txt文件上传到服务器
curl -u ftpuser:ftppass -T myfile.txt ftp://ftp.testserver.com

# 同时上传多个文件
curl -u ftpuser:ftppass -T "{file1,file2}" ftp://ftp.testserver.com

# 从标准输入获取内容保存到服务器指定的文件中
curl -u ftpuser:ftppass -T - ftp://ftp.testserver.com/myfile_1.txt

通过字典查询单词

# 查询bash单词的含义
curl dict://dict.org/d:bash

# 列出所有可用词典
curl dict://dict.org/show:db

# 在foldoc词典中查询bash单词的含义
curl dict://dict.org/d:bash:foldoc

设置代理

-x 选项可以为CURL添加代理功能:

# 指定代理主机和端口
curl -x proxysever.test.com:3128 http://google.co.in

保存与使用网站cookie信息

# 将网站的cookies信息保存到sugarcookies文件中
curl -D sugarcookies http://localhost/sugarcrm/index.php
 
# 使用上次保存的cookie信息
curl -b sugarcookies http://localhost/sugarcrm/index.php

获取HTTP头信息

通过使用 -v-trace获取更多的链接信息:

curl -v http://www.centos.org

发送GET/POST请求

默认curl使用GET方式请求数据,这种方式下直接通过URL传递数据。

可以通过 --data/-d 方式指定使用POST方式传递数据;通过 -X 选项指定其它协议。

# GET
curl -u username https://api.github.com/user?access_token=XXXXXXXXXX

# POST
curl -u username --data "param1=value1&param2=value" https://api.github.com

# 也可以指定一个文件,将该文件中的内容当作数据传递给服务器端
curl --data @filename https://github.api.com/authorizations

# 通过 -X 选项指定其它协议
curl -I -X DELETE https://api.github.cim

# 上传文件: -F/--form
# 相当于设置form表单的method="POST"和enctype='multipart/form-data'两个属性
curl --form "fileupload=@filename.txt" http://hostname/resource

注:默认情况下,通过POST方式传递过去的数据中若有特殊字符,首先需要将特殊字符转义再传递给服务器端,如value值中包含有空格,则需要先将空格转换成%20,如:

curl -d "value%201" http://hostname.com

在新版本的CURL中,提供了新的选项 --data-urlencode,通过该选项提供的参数会自动转义特殊字符:

curl --data-urlencode "value 1" http://hostname.com

设置HTTP头部字段

若服务器需要传递json文本参数:

curl -H "Content-Type: application/json" -X POST  --data '{"param":{"appkey":"xxx","secret":"xxx"}}'  http://api.xxx.com

-H/--header 用于为HTTP请求设置任意header及值。

-H "Content-Type: application/json"指定以json形式传递参数,默认是以表单的形式传递参数。

对于User-AgentCookieHost这类标准的HTTP头部字段,通常会有另外一种设置方法。curl命令提供了特定的选项来对这些头部字段进行设置:

  • -A/--user-agent: 设置 User-Agent 字段
  • -b/--cookie: 设置 Cookie 字段
  • -e/--referer: 设置 Referer 字段

参考:
1、CURL常用命令
http://www.cnblogs.com/gbyukg/p/3326825.html
2、Linux系统入门学习:在curl中设置自定义的HTTP头
http://www.linuxidc.com/Linux/2015-02/114220.htm
3、Linux curl命令参数详解
http://www.aiezu.com/system/linux/linux_curl_syntax.html

posted @ 2017-03-19 17:25 飞鸿影 阅读(...) 评论(...) 编辑 收藏