探测Web服务质量方法

pycurl是libcurl的python接口。pycurl可用于从Python程序获取URL标识的对象，类似于url lib Python模块。
libcurl是一个免费且易于使用的客户端URL传输库，支持FTP，FTPS，HTTP，HTTPS，SCP，SFTP，TFTP，TELNET，DICT，LDAP，LDAPS，FILE，IMAP，SMTP，POP3和RTSP。libcurl支持SSL证书，HTTP POST，HTTP PUT，FTP上传，基于HTTP表单的上传，代理，cookies，用户名密码认证（Basic，Digest，NTLM，Negotiate，Kerberos4），文件传输恢复，http代理隧道等等。
libcurl具有很高的可移植性，它可以在多种平台上构建和运行，包括Solaris，NetBSD，FreeBSD，OpenBSD，Darwin，HPUX，IRIX，AIX，Tru64，Linux，UnixWare，HURD，Windows，Amiga，OS/2，BeOs，Mac OS X，Ultrix，QNX，OpenVMS，RISC OS，Novell NetWare，DOS等等...

安装pycurl模块

pip3 install pycurl

概要

pycurl.Curl() 类实现创建一个libcurl包的Curl句柄对象，无参数

Curl对象几个常用的方法

• close()方法，对应libcurl包中的curl_easy_cleanup方法，无参数，实现关闭、回收Curl对象。
• perform()方法，对应libcurl包中的curl_easy_perform方法，无参数，实现Curl对象请求的提交。
• setopt(option,value)方法，对应libcurl包中的curl_easy_setopt方法，参数option是通过liburl的常量来指定的，参数value的值会依赖option,可以是一个字符串、整型、长整型、文件对象、列表或函数等。

setopt(option,value)方法常用常量列表：

c = pycurl.Curl()                    #创建一个curl对象
c.setopt(pycurl.CONNECTTIMEOUT,5)        #连接的等待时间，设置为0则不等待
c.setopt(pycurl.TIMEOUT,5)                    #请求超时时间
c.setopt(pycurl.NOPROGRESS,0)            #是否屏蔽下载进度条，非0则屏蔽
c.setopt(pycurl.MAXREDIRS,5)                #指定HTTP重定向的最大数
c.setopt(pycurl.FORBID_REUSE,1)            #完成交互强制断开连接，不重复
c.setopt(pycurl.FRESH_CONNECT,1)            #强制获取新的连接，即替代缓存中的连接
c.setopt(pycurl.DNS_CACHE_TIMEOUT,60)        #设置保存DNS信息的时间，默认为120秒
c.setopt(pycurl.URL,"http://www.baidu.com")        #指定请求的URL
c.setopt(pycurl.USERAGENT,"Mozilla/5.2 (compatible;MSIE 6.0;Windows NT 5.1;SV1; .NET CLR 1.1.4322; .NET CLR 2.0.50324)")    #配置请求HTTP头的User-Agent
c.setopt(pycurl.HEADERFUNCTION,getheader)        #将返回的HTTP HEADER定向到回调函数getheader
c.setopt(pycurl.WRITEFUNCTION,getbody)        #将返回的内容定向到回调函getbody
c.setopt(pycurl.WRITEHEADER,fileobj)            #将返回的HTTP HEADER定向到fileobj文件对象
c.setop(pucurl.WRITEADTA,fileobj)            #将返回的HTML内容定向到fileobj文件对象

getinfo(option)方法，对应libcurl包中的curl_easy_getinfo方法，参数option是通过libcurl的常量来指定的。下面列举常用的常量列表：

c = pycurl.Curl()                    #创建一个curl对象
c.getinfo(pycurl.HTTP_CODE)            #返回的HTTP状态码
c.getinfo(pycurl.TOTAL_TIME)            #传输结束所消耗的总时间
c.getinfo(pycurl.NAMELOOKUP_TIME)        #DNS解析所消耗的时间
c.getinfo(pycurl.CONNECT_TIME)                #建立连接所消耗的时间
c.getinfo(pycurl.PRETRANSFER_TIME)            #从建立连接到准备传输所消耗的时间
c.getinfo(pycurl.STARTTRANSFER_TIME)         #从建立连接到传输开始消耗的时间
c.getinfo(pycurl.REDIRECT_TIME)                #重定向所消耗的时间
c.getinfo(pycurl.SIZE_UPLOAD)                    #上传数据包大小
c.getinfo(pycurl.SIZE_DOWNLOAD)                #下载数据包大小
c.getinfo(pycurl.SPEED_DOWNLOAD)               #平均下载速度
c.getinfo(pycurl.SPEED_UPLOAD)                    #平均上传速度
c.getinfo(pycurl.HEADER_SIZE)                    #HTTP头部大小

案例

HTTP服务是最流行的互联网应用之一，服务质量的好坏关系到用户体验以及网站的运营服务水平，最常用的有两个标准，一为服务的可用性，比如是否处于正常提供服务状态，而不是出现404页面未找到或500页面错误等；二为服务的响应速度，比如静态类文件下载时间都控制在毫秒级，动态CGI为秒级。本示例使用pycurl的setopt与getinfo方法实现HTTP服务质量的探测，获取监控URL页面返回的HTTP状态码，HTTP状态码采用pycurl.HTTP_CODE常量得到，以及从HTTP请求到完成下载期间各环节的响应时间，通过pycurl.NAMELOOKUP_TIME、pycurl.CONNECT_TIME、pycurl.PRETRANSFER_TIME、pycurl.R等常量来实现。另外通过pycurl.WRITEHEADER、pycurl.WRITEDATA常量得到目标URL的HTTP响应头部及页面内容。

#! -*- coding: utf-8 -*-
import os
import sys
import time
import pycurl


URL="http://www.baidu.com"              #探测的目录URL
c = pycurl.Curl()                       #创建一个Curl对象
c.setopt(pycurl.URL,URL)                #定义请求的URL常量
c.setopt(pycurl.CONNECTTIMEOUT,5)       #定义请求连接的等待时间
c.setopt(pycurl.NOPROGRESS,5)           #屏蔽下载进度条
c.setopt(pycurl.FORBID_REUSE,1)         #完成交互后强制断开连接，不重用
c.setopt(pycurl.MAXREDIRS,1)            #指定HTTP重定向的最大数为1
c.setopt(pycurl.DNS_CACHE_TIMEOUT,30)   #设置保存DNS信息的时间为30秒
#创建一个文件对象，以"wb"方式打开，用来存储返回的http头部及页面内容
indexfile = open(os.path.dirname(os.path.realpath(__file__))+"/content.txt","wb")
c.setopt(pycurl.WRITEHEADER,indexfile)          #将返回的HTTP HEADER定向到indexfile文件对象
c.setopt(pycurl.WRITEDATA,indexfile)            #将返回的HTML内容定向到indexfile文件对象
try:
    c.perform()                 #提交请求
except Exception as e:
    print("connection error:"+str(e))
    indexfile.close()
    c.close()
    sys.exit()

NAMELOOKUP_TIME = c.getinfo(c.NAMELOOKUP_TIME)          #获取DNS解析时间
CONNECT_TIME = c.getinfo(c.CONNECT_TIME)                #获取建立连接时间
PRETRANSFER_TIME = c.getinfo(c.PRETRANSFER_TIME)        #获取从建立连接到准备传输所消耗的时间
STARTTRANSFER_TIME = c.getinfo(c.STARTTRANSFER_TIME)   #获取从建立到传输开始消耗的时间
TOTAL_TIME = c.getinfo(c.TOTAL_TIME)                    #获取传输的总时间
HTTPC_CODE = c.getinfo(c.HTTP_CODE)                     #获取HTTP状态码
SIZE_DOWNLOAD = c.getinfo(c.SIZE_DOWNLOAD)              #获取下载数据包大小
HEADER_SIZE = c.getinfo(c.HEADER_SIZE)                  #获取HTTP头部大小
SPEED_DOWNLOAD=c.getinfo(c.SPEED_DOWNLOAD)             #获取平均下载速度

#打印输出相关数据
print("HTTP状态码：%s" %(HTTPC_CODE))
print("DNS解析时间：%.2f ms" %(NAMELOOKUP_TIME))
print("建立连接时间：%.2f ms" %(CONNECT_TIME*1000))
print("准备传输时间：%s.2f ms" %(PRETRANSFER_TIME*1000))
print("传输开始时间：%s.2f ms" %(STARTTRANSFER_TIME*1000))
print("传输结束总时间：%.2f ms" %(TOTAL_TIME*1000))
print("下载数据包大小：%d bytes/s" %(SIZE_DOWNLOAD))
print("HTTP头部大小：%d byte" %(HEADER_SIZE))
print("平均下载速度：%d bytes/s" %(SPEED_DOWNLOAD))
#关闭文件及Curl对象
indexfile.close()
c.close()