命令：curl

在Linux中curl是一个利用URL规则在命令行下工作的文件传输工具，可以说是一款很强大的http命令行工具。它支持文件的上传和下载。

语法：curl [option] [url]

常见参数：

  1. -A/--user-agent 设置用户代理发送给服务器
  2. -b/--cookie <name=string/file> cookie字符串或者文件读取位置
  3. -c/--cookie-jar 操作结束后把cookie写入到这个文件中
  4. -C/--continue-at 断点续转
  5. -D/--dump-header 把header信息写入到该文件中
  6. -e/--referer 来源网址
  7. -f/--fail 连接失败时不显示http错误
  8. -o/--outpout 把输出写到该文件中
  9. -O/--remote-name 把输出写到该文件中，保留远程文件的文件名
  10. -r/--range 检查来自HTTP/1.1或者FTP服务器字节范围
  11. -s/silent 静音模式。不输出任何东西
  12. -T/--upload-file 上传文件
  13. -u/--user user:password设置服务器的用户和密码
  14. -w/--write-out [format] 什么输出完成后
  15. -x/--proxy <host[:port]> 在给定的端口上使用HTTP代理
  16. -#、--progress-bar 进度条显示当前的传送状态

一、查看网页源码

直接在curl命令后加上网址，就可以看到网页源码我们以网址www.sina.com为例

curl www.sina.com

如果要把这个网页保存下来，可以使用-o参数，这就相当于使用wget的命令了。

curl -o [文件名称] www.sina.com

二、自动跳转

有的网址是自动跳转的。使用-L参数，curl就会跳转到新的网址。

curl -L www.sina.com

键入上面的命令，结果就自动跳转为www.sina.cn

三、显示头信息

-i参数可以显示http response的头信息，连同网页代码一起。

curl -i www.sina.com

-I参数则是只显示http response的头信息。

四、显示通信过程

-v参数可以显示一次http通信的整个过程，包括端口链接和http请求头信息

curl -v www.sina.com

如果你觉得上面的信息还不够，那么下面的命令可以查看更详细的通信过程。

curl --trace output.txt www.sina.com

或者
curl --trace--ascii output.txt www.sina.com

五、发送表单信息

发送表单信息有GET和POST两种方法。获得方法相对简单。

curl example.com/form.cgi?data=xxx

post方法必须把数据和网址分开，curl就要用到--data参数。

curl -X POST --data "data=xxx" example.com/form.cgi

如果你的数据没有经过表单编码，还可以为你编码，参数是--data-urlencode。

curl -X POST --data-urlencode "data=xxx" example.com/form.cgi（这个有问题？？？？？？）

六、HTTP动词

curl默认的HTTP动词是GET，使用-X参数可以支持其他动词。

curl -X POST www.example.com

curl -X DELETE www.example.com

七、文件上传

假定文件上传的表单是下面这样：

<form method="POST" enctype="multipart/form-data" action="upload.cgi">
	<input type="file" name="upload">
	<input type="submit" name="press" value="OK">
</form>

你可以用curl发这样上传文件：

curl --form upload=@localfilename --form press=OK [URL]

九、用户代理字段

这个字段是永凯标识客户端的设备信息。服务器有时会根据这个字段，针对不同设备，返回不同格式的网页，比如手机网页版和桌面版。

iPhone4的用户代理是

Mozilla / 5.0（iPhone; U; CPU iPhone OS 4_0，如Mac OS X; en-us）AppleWebKit / 532.9（KHTML，类似Gecko）版本/ 4.0.5 Mobile / 8A293 Safari / 6531.22.7

curl可以这样模拟：

curl --user-agent "[用户代理]" [URL]

十、cookie
使用--cookie参数，可以让curl发送的cookie。

curl --cookie "name=xxx" www.example.com

至于具体的cookie的值，可以从http响应头头信息的Set-Cookie字段中得到。

-c cookie-file可以保存服务器返回的cookie到文件，-b cookie-file可以使用这个文件作为cookie信息，进行后续的请求。

curl -c cookies http://example.com

curl -b cookies http://example.com

十一、增加信息

有时需要在http request之中，自行增加一个头信息。-header参数就可以起到这个作用。

curl --header "Content-Type:application/json" http://example.com

十二、HTTP认证

有些网域需要HTTP认证，这时需要用到--user参数。

curl -user 用户名：密码example.com

十二、-w使用，测试网页返回值

curl -o /dev/null -s -w %{http_code} www.linux.com

PS：在脚本中，这是很常见的测试网站是否正常的用法。

Linux curl是一个利用URL规则在命令行下工作的文件工具。它支持文件的上传和下载，所以是综合传输工具，但按传统，习惯称URL为下载工具。

一、curl命令参数
在Linux中curl是一个利用URL规则在命令行下工作的文件传输工具，可以是说一款强大的http命令行工具。它支持文件的上传和下载。
是综合传输工具，但按传统，习惯称URL为下载工具。

语法：# curl [option] [url]
常见参数：

-A/--user-agent 设置用户代理发送给服务器
-b/--cookie <name=string/file> cookie字符串或者文件读取位置
-c/--cookie-jar 操作结束后把cookie写入到这个文件中
-C/--continue-at 断点续转
-D/--dump-header 把header信息写入到该文件中
-e/--referer 来源网址
-f/--fail 连接失败时不显示http错误
-o/--output 把输出写到该文件中
-O/--remote-name 把输出写到该文件中，保留远程文件的文件名
-r/--range 检索来自HTTP/1.1或者FTP服务器字节范围
-s/--silent 静音模式，不输出任何东西
-T/--upload-file 上传文件
-u/ --user <user[:password]> 设置服务器的用户和密码
-w/--write-out [format] 什么输出完成后
-x/--proxy <host[:port]> 在给定的端口上使用HTTP代理
-#/--progress-bar 进度条显示当前的传送状态

例子：
1、基本用法

curl http://www.linux.com

执行后，www.linux.com 的html就会显示在屏幕上了
Ps：由于安装linux的时候很多时候是没有安装桌面的，也意味着没有浏览器，因此这个方法也经常用于测试一台服务器是否可以到达一个网站

2、保存访问的网页

2.1:使用linux的重定向功能保存

curl http://www.linux.com >> linux.html

2.2:可以使用curl的内置option:-o(小写)保存网页

curl -o linux.html http://www.linux.com

执行完成后会显示如下界面，显示100%则表示保存成功

2.3:可以使用curl的内置option:-O(大写)保存网页中的文件

要注意这里后面的url要具体到某个文件，不然抓不下来

curl -O http://www.linux.com/hello.sh

3、测试网页返回值

curl -o /dev/null -s -w %{http_code} www.linux.com

Ps:在脚本中，这是很常见的测试网站是否正常的用法

4、指定proxy服务器以及其端口

很多时候上网需要用到代理服务器(比如是使用代理服务器上网或者因为使用curl别人网站而被别人屏蔽IP地址的时候)，
幸运的是curl通过使用内置option：-x来支持设置代理

curl -x 192.168.100.100:1080 http://www.linux.com

5、cookie
有些网站是使用cookie来记录session信息。对于chrome这样的浏览器，可以轻易处理cookie信息，
但在curl中只要增加相关参数也是可以很容易的处理cookie

5.1:保存http的response里面的cookie信息。内置option:-c（小写）

curl -c cookiec.txt http://www.linux.com

执行后cookie信息就被存到了cookiec.txt里面了

5.2:保存http的response里面的header信息。内置option: -D

curl -D cookied.txt http://www.linux.com

执行后cookie信息就被存到了cookied.txt里面了

注意：-c(小写)产生的cookie和-D里面的cookie是不一样的。

5.3:使用cookie

很多网站都是通过监视你的cookie信息来判断你是否按规矩访问他们的网站的，因此我们需要使用保存的cookie信息。
内置option：-b

curl -b cookiec.txt http://www.linux.com

6、模仿浏览器
有些网站需要使用特定的浏览器去访问他们，有些还需要使用某些特定的版本。curl内置option：-A可以让我们制定浏览器去访问网站

curl -A "Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.0)" http://www.linux.com

这样服务器端就会认为是使用IE8.0去访问的

7、伪造refer额（盗链）
很多服务器会检查http访问的referer从而来控制访问。比如：你是先访问首页，然后再访问首页中的邮箱页面，这里访问邮箱的referer地址就是访问首页成功后的页面地址，如果服务器发现对邮箱页面访问的referer地址不是首页的地址，就断定那是个盗连了
curl中内置option：-e可以让我们设定referer

curl -e "www.linux.com" http://mail.linux.com

这样就会让服务器其以为你是从www.linux.com点击某个链接过来的

8、下载文件
8.1：利用curl下载文件。

使用内置option：-o(小写)

curl -o dodo1.jpg http:www.linux.com/dodo1.JPG

使用内置option：-O（大写)

curl -O http://www.linux.com/dodo1.JPG

这样就会以服务器上的名称保存文件到本地

8.2：循环下载
有时候下载图片可以能是前面的部分名称是一样的，就最后的尾椎名不一样

curl -O http://www.linux.com/dodo[1-5].JPG

这样就会把dodo1，dodo2，dodo3，dodo4，dodo5全部保存下来

8.3：下载重命名

curl -O http://www.linux.com/{hello,bb}/dodo[1-5].JPG

由于下载的hello与bb中的文件名都是dodo1，dodo2，dodo3，dodo4，dodo5。因此第二次下载的会把第一次下载的覆盖，这样就需要对文件进行重命名。

curl -o #1_#2.JPG http://www.linux.com/{hello,bb}/dodo[1-5].JPG

这样在hello/dodo1.JPG的文件下载下来就会变成hello_dodo1.JPG,其他文件依此类推，从而有效的避免了文件被覆盖

8.4：分块下载
有时候下载的东西会比较大，这个时候我们可以分段下载。使用内置option：-r

curl -r 0-100 -o dodo1_part1.JPG http://www.linux.com/dodo1.JPG

curl -r 100-200 -o dodo1_part2.JPG http://www.linux.com/dodo1.JPG

curl -r 200- -o dodo1_part3.JPG http://www.linux.com/dodo1.JPG

cat dodo1_part* > dodo1.JPG

这样就可以查看dodo1.JPG的内容了

8.5：通过ftp下载文件
curl可以通过ftp下载文件，curl提供两种从ftp中下载的语法

curl -O -u 用户名:密码 ftp://www.linux.com/dodo1.JPG

curl -O ftp://用户名:密码@www.linux.com/dodo1.JPG

8.6：显示下载进度条

curl -# -O http://www.linux.com/dodo1.JPG

8.7：不会显示下载进度信息

curl -s -O http://www.linux.com/dodo1.JPG

9、断点续传
在windows中，我们可以使用迅雷这样的软件进行断点续传。curl可以通过内置option:-C同样可以达到相同的效果
如果在下载dodo1.JPG的过程中突然掉线了，可以使用以下的方式续传

curl -C -O http://www.linux.com/dodo1.JPG

10、上传文件
curl不仅仅可以下载文件，还可以上传文件。通过内置option:-T来实现

curl -T dodo1.JPG -u 用户名:密码 ftp://www.linux.com/img/

这样就向ftp服务器上传了文件dodo1.JPG

11、显示抓取错误

curl -f http://www.linux.com/error

路由器，连接两个不同网段

IP地址由网络号和主机号
以二进位说明Network第一个数字的定义：
Class A : 0 xxxxxxx.xxxxxxxx.xxxxxxxx.xxxxxxxx ==> NetI_D的开头是0
|--net--|---------host------------|
Class B : 10 xxxxxx.xxxxxxxx.xxxxxxxx.xxxxxxxx ==> NetI_D的开头是10
|------net-------|------host------|
Class C : 110 xxxxx.xxxxxxxx.xxxxxxxx.xxxxxxxx ==> NetI_D的开头是11