python标准日志模块logging及日志系统设计

  最近写一个爬虫系统,需要用到python的日志记录模块,于是便学习了一下。

  python的标准库里的日志系统从Python2.3开始支持。只要import logging这个模块即可使用。如果你想开发一个日志系统, 既要把日志输出到控制台, 还要写入日志文件,只要这样使用:

 1 import logging
 2 
 3 # 创建一个logger
 4 logger = logging.getLogger('mylogger')
 5 logger.setLevel(logging.DEBUG)
 6 
 7 # 创建一个handler,用于写入日志文件
 8 fh = logging.FileHandler('test.log')
 9 fh.setLevel(logging.DEBUG)
10 
11 # 再创建一个handler,用于输出到控制台
12 ch = logging.StreamHandler()
13 ch.setLevel(logging.DEBUG)
14 
15 # 定义handler的输出格式
16 formatter = logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s')
17 fh.setFormatter(formatter)
18 ch.setFormatter(formatter)
19 
20 # 给logger添加handler
21 logger.addHandler(fh)
22 logger.addHandler(ch)
23 
24 # 记录一条日志
25 logger.info('foorbar')

  结合上面的例子,我们说下几个最常使用的API:

  logging.getLogger([name])

  返回一个logger实例,如果没有指定name,返回root logger。只要name相同,返回的logger实例都是同一个而且只有一个,即name和logger实例是一一对应的。这意味着,无需把logger实例在各个模块中传递。只要知道name,就能得到同一个logger实例。

  Logger.setLevel(lvl)

  设置logger的level, level有以下几个级别:

    

  级别高低顺序:NOTSET < DEBUG < INFO < WARNING < ERROR < CRITICAL

  如果把looger的级别设置为INFO, 那么小于INFO级别的日志都不输出, 大于等于INFO级别的日志都输出  

1     logger.debug("foobar")    # 不输出   
2     logger.info("foobar")        # 输出  
3     logger.warning("foobar")  # 输出  
4     logger.error("foobar")      # 输出  
5     logger.critical("foobar")    # 输出  

  Logger.addHandler(hdlr)

  通过handler对象可以把日志内容写到不同的地方。比如简单的StreamHandler就是把日志写到类似文件的地方。python提供了十几种实用handler,比较常用有:

1 StreamHandler: 输出到控制台
2 FileHandler:   输出到文件
3 BaseRotatingHandler 可以按时间写入到不同的日志中。比如将日志按天写入不同的日期结尾的文件文件。
4 SocketHandler 用TCP网络连接写LOG
5 DatagramHandler 用UDP网络连接写LOG
6 SMTPHandler 把LOG写成EMAIL邮寄出去

  logging.basicConfig([**kwargs])* 这个函数用来配置root logger, 为root logger创建一个StreamHandler,设置默认的格式。* 这些函数: logging.debug()、logging.info()、logging.warning()、logging.error()、logging.critical() 如果调用的时候发现root logger没有任何handler,会自动调用basicConfig添加一个handler* 如果root logger已有handler,这个函数不做任何事情使用basicConfig来配置root logger的输出格式和level:

1 import logging
2 logging.basicConfig(format='%(levelname)s:%(message)s', level=logging.DEBUG)
3 logging.debug('This message should appear on the console')

 

  logger对象直接提供日志接口。formatter描述日志的格式。handler把日志写到不同的地方,你可以把日志保存成本地文件,也可以每个小时写一个日志文件,还可以把日志通过socket传到别的机器上。

  从最简单的formatter对象来看。formatter指定的是每一条日志记录的抬头信息,也就是你可以指定日志记录的时间格式、进程号、文件名、函数名等信息。可以用这个方法来创建一个formatter对象:

logging.Formatter.__init__( fmt=None, datefmt=None)

  fmt参数指定进程号、文件名、函数名等信息是否出现以及格式, datefmt为日期时间格式,默认的日期格式精确到微秒,例如‘2003-07-08 16:49:45,896’。fmt中可以指定多个字段,每个字段的格式为“%(<dictionary key>)s”, 例如你想打印时间、日志级别、日志信息可以用下面的format:

'%(asctime)s - %(levelname)s - %(message)s'

  所有的可以使用的字段如下表:

  在记录爬虫系统日志的时候需要定义记录日志的级别,级别越高表示打出来的日志越详细。我们可以用一个字典来设置不同级别对应的不同日志信息:

1 #用字典保存日志级别
2 format_dict = {
3    1 : logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s'),
4    2 : logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s'),
5    3 : logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s'),
6    4 : logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s'),
7    5 : logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s')
8 }

  将本文开始的代码封装在一个类中

 1 #开发一个日志系统, 既要把日志输出到控制台, 还要写入日志文件   
 2 class Logger():
 3     def __init__(self, logname, loglevel, logger):
 4         '''
 5            指定保存日志的文件路径,日志级别,以及调用文件
 6            将日志存入到指定的文件中
 7         '''
 8         
 9         # 创建一个logger
10         self.logger = logging.getLogger(logger)
11         self.logger.setLevel(logging.DEBUG)
12         
13         # 创建一个handler,用于写入日志文件
14         fh = logging.FileHandler(logname)
15         fh.setLevel(logging.DEBUG)
16         
17         # 再创建一个handler,用于输出到控制台
18         ch = logging.StreamHandler()
19         ch.setLevel(logging.DEBUG)
20         
21         # 定义handler的输出格式
22         #formatter = logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s')
23         formatter = format_dict[int(loglevel)]
24         fh.setFormatter(formatter)
25         ch.setFormatter(formatter)
26         
27         # 给logger添加handler
28         self.logger.addHandler(fh)
29         self.logger.addHandler(ch)
30         
31     
32     def getlog(self):
33         return self.logger

再通过以下方式调用,便是一个简单的日志系统了

logger = Logger(logname='log.txt', loglevel=1, logger="fox").getlog()

 

posted @ 2013-10-07 16:38 bamb00 阅读(...) 评论(...) 编辑 收藏