Python3-定时任务四种实现方式

Python3-定时任务四种实现方式

转载weixin_38168786 最后发布于2019-06-22 05:35:13 阅读数 106  收藏

展开

最近做一个小程序开发任务，主要负责后台部分开发；根据项目需求，需要实现三个定时任务：

1>定时更新微信token，需要2小时更新一次；
2>商品定时上线；
3>定时检测后台服务是否存活；

使用Python去实现这三个任务，这里需要使用定时相关知识点；
Python实现定点与定时任务方式比较多，找到下面四中实现方式，每个方式都有自己应用场景；下面来快速介绍Python中常用的定时任务实现方式：

1>循环+sleep；
2>线程模块中Timer类；
3>schedule模块；
4>定时框架：APScheduler

在开始之前先设定一个任务（这样不用依赖外部环境）：
1：定时或者定点监测CPU与内存使用率；
2：将时间，CPU，内存使用情况保存到日志文件；

先来实现系统监测功能：
准备工作：安装psutil：pip install psutil
功能实现

1.  
   #psutil:获取系统信息模块，可以获取CPU，内存，磁盘等的使用情况
2.  
   import psutil
3.  
   import time
4.  
   import datetime
5.  
   #logfile：监测信息写入文件
6.  
   def MonitorSystem(logfile = None):
7.  
   #获取cpu使用情况
8.  
   cpuper = psutil.cpu_percent()
9.  
   #获取内存使用情况：系统内存大小，使用内存，有效内存，内存使用率
10.  
    mem = psutil.virtual_memory()
11.  
    #内存使用率
12.  
    memper = mem.percent
13.  
    #获取当前时间
14.  
    now = datetime.datetime.now()
15.  
    ts = now.strftime('%Y-%m-%d %H:%M:%S')
16.  
    line = f'{ts} cpu:{cpuper}%, mem:{memper}%'
17.  
    print(line)
18.  
    if logfile:
19.  
    logfile.write(line)
20.  
    我们的Python学习扣qun：784758214，看看前辈们是如何学习的！交流经验！
21.  
    复制代码

代码运行结果：

1.  
   2019-03-21 14:23:41 cpu:0.6%, mem:77.2%
2.  
   复制代码

接下来我们要实现定时监测，比如3s监测一下系统资源使用情况。

最简单使用方式：sleep

这种方式最简单，直接使用while+sleep就可以实现：

1.  
   def loopMonitor():
2.  
   while True:
3.  
   MonitorSystem()
4.  
   #2s检查一次
5.  
   time.sleep(3)
6.  
   loopMonitor()
7.  
   复制代码

输出结果：

1.  
   2019-03-21 14:28:42 cpu:1.5%, mem:77.6%
2.  
   2019-03-21 14:28:45 cpu:1.6%, mem:77.6%
3.  
   2019-03-21 14:28:48 cpu:1.4%, mem:77.6%
4.  
   2019-03-21 14:28:51 cpu:1.4%, mem:77.6%
5.  
   2019-03-21 14:28:54 cpu:1.3%, mem:77.6%
6.  
   复制代码

这种方式存在问题：只能处理单个定时任务。
又来了新任务：需要每秒监测网络收发字节，代码实现如下：

1.  
   def MonitorNetWork(logfile = None):
2.  
   #获取网络收信息
3.  
   netinfo = psutil.net_io_counters()
4.  
   #获取当前时间
5.  
   now = datetime.datetime.now()
6.  
   ts = now.strftime('%Y-%m-%d %H:%M:%S')
7.  
   line = f'{ts} bytessent={netinfo.bytes_sent}, bytesrecv={netinfo.bytes_recv}'
8.  
   print(line)
9.  
   if logfile:
10.  
    logfile.write(line)
11.  
    MonitorNetWork()
12.  
    复制代码

代码执行结果：

1.  
   2019-03-21 14:47:21 bytessent=169752183, bytesrecv=1107900973
2.  
   复制代码

如果我们同时在while循环中监测两个任务会有等待问题，不能每秒监测网络情况。

Timer实现方式

timer最基本理解就是定时器，我们可以启动多个定时任务，这些定时器任务是异步执行，所以不存在等待顺序执行问题。
先来看Timer的基本使用：
导入：from threading import Timer
主要方法：

Timer方法	说明
Timer(interval, function, args=None, kwargs=None)	创建定时器
cancel()	取消定时器
start()	使用线程方式执行
join(self, timeout=None)	等待线程执行结束

定时器只能执行一次，如果需要重复执行，需要重新添加任务；
我们先来看基本使用：

1.  
   from threading import Timer
2.  
   #记录当前时间
3.  
   print(datetime.datetime.now())
4.  
   #3S执行一次
5.  
   sTimer = Timer(3, MonitorSystem)
6.  
   #1S执行一次
7.  
   nTimer = Timer(1, MonitorNetWork)
8.  
   #使用线程方式执行
9.  
   sTimer.start()
10.  
    nTimer.start()
11.  
    #等待结束
12.  
    sTimer.join()
13.  
    nTimer.join()
14.  
    #记录结束时间
15.  
    print(datetime.datetime.now())
16.  
    复制代码

输出结果：

1.  
   2019-03-21 15:13:36.739798
2.  
   2019-03-21 15:13:37 bytessent=171337324, bytesrecv=1109002349
3.  
   2019-03-21 15:13:39 cpu:1.4%, mem:93.2%
4.  
   2019-03-21 15:13:39.745187
5.  
   复制代码

可以看到，花费时间为3S，但是我们想要做的是每秒监控网络状态；如何处理。
Timer只能执行一次，所以执行完成之后需要再次添加任务，我们对代码进行修改：

1.  
   from threading import Timer
2.  
   import psutil
3.  
   import time
4.  
   import datetime
5.  
   def MonitorSystem(logfile = None):
6.  
   cpuper = psutil.cpu_percent()
7.  
   mem = psutil.virtual_memory()
8.  
   memper = mem.percent
9.  
   now = datetime.datetime.now()
10.  
    ts = now.strftime('%Y-%m-%d %H:%M:%S')
11.  
    line = f'{ts} cpu:{cpuper}%, mem:{memper}%'
12.  
    print(line)
13.  
    if logfile:
14.  
    logfile.write(line)
15.  
    #启动定时器任务，每三秒执行一次
16.  
    Timer(3, MonitorSystem).start()
17.  
     
18.  
    def MonitorNetWork(logfile = None):
19.  
    netinfo = psutil.net_io_counters()
20.  
    now = datetime.datetime.now()
21.  
    ts = now.strftime('%Y-%m-%d %H:%M:%S')
22.  
    line = f'{ts} bytessent={netinfo.bytes_sent}, bytesrecv={netinfo.bytes_recv}'
23.  
    print(line)
24.  
    if logfile:
25.  
    logfile.write(line)
26.  
    #启动定时器任务，每秒执行一次
27.  
    Timer(1, MonitorNetWork).start()
28.  
    MonitorSystem()
29.  
    MonitorNetWork()我们的Python学习扣qun：784758214，看看前辈们是如何学习的！交流经验！
30.  
    复制代码

执行结果：

1.  
   2019-03-21 15:18:21 cpu:1.5%, mem:93.2%
2.  
   2019-03-21 15:18:21 bytessent=171376522, bytesrecv=1109124678
3.  
   2019-03-21 15:18:22 bytessent=171382215, bytesrecv=1109128294
4.  
   2019-03-21 15:18:23 bytessent=171384278, bytesrecv=1109129702
5.  
   2019-03-21 15:18:24 cpu:1.9%, mem:93.2%
6.  
   2019-03-21 15:18:24 bytessent=171386341, bytesrecv=1109131110
7.  
   2019-03-21 15:18:25 bytessent=171388527, bytesrecv=1109132600
8.  
   2019-03-21 15:18:26 bytessent=171390590, bytesrecv=1109134008
9.  
   复制代码

从时间中可以看到，这两个任务可以同时进行不存在等待问题。
Timer的实质是使用线程方式去执行任务，每次执行完后会销毁，所以不必担心资源问题。

调度模块：schedule

schedule是一个第三方轻量级的任务调度模块，可以按照秒，分，小时，日期或者自定义事件执行时间；
安装方式：

1.  
   pip install schedule
2.  
   复制代码

我们来看一个例子：

1.  
   import datetime
2.  
   import schedule
3.  
   import time
4.  
   def func():
5.  
   now = datetime.datetime.now()
6.  
   ts = now.strftime('%Y-%m-%d %H:%M:%S')
7.  
   print('do func time :',ts)
8.  
   def func2():
9.  
   now = datetime.datetime.now()
10.  
    ts = now.strftime('%Y-%m-%d %H:%M:%S')
11.  
    print('do func2 time：',ts)
12.  
    def tasklist():
13.  
    #清空任务
14.  
    schedule.clear()
15.  
    #创建一个按秒间隔执行任务
16.  
    schedule.every(1).seconds.do(func)
17.  
    #创建一个按2秒间隔执行任务
18.  
    schedule.every(2).seconds.do(func2)
19.  
    #执行10S
20.  
    for i in range(10):
21.  
    schedule.run_pending()
22.  
    time.sleep(1)
23.  
    tasklist()
24.  
    复制代码

执行结果：

1.  
   do func time : 2019-03-22 08:51:38
2.  
   do func2 time： 2019-03-22 08:51:39
3.  
   do func time : 2019-03-22 08:51:39
4.  
   do func time : 2019-03-22 08:51:40
5.  
   do func2 time： 2019-03-22 08:51:41
6.  
   do func time : 2019-03-22 08:51:41
7.  
   do func time : 2019-03-22 08:51:42
8.  
   do func2 time： 2019-03-22 08:51:43
9.  
   do func time : 2019-03-22 08:51:43
10.  
    do func time : 2019-03-22 08:51:44
11.  
    do func2 time： 2019-03-22 08:51:45
12.  
    do func time : 2019-03-22 08:51:45
13.  
    do func time : 2019-03-22 08:51:46
14.  
    复制代码

执行过程分析：

1.  
   >1>因为在jupyter下执行，所以先将schedule任务清空；
2.  
   >2>按时间间在schedule中隔添加任务；
3.  
   >3>这里按照秒间隔添加func，按照两秒间隔添加func2;
4.  
   >4>schedule添加任务后，需要查询任务并执行任务；
5.  
   >5>为了防止占用资源，每秒查询到点任务，然后顺序执行；
6.  
   复制代码

第5个顺序执行怎么理解，我们修改func函数，里面添加time.sleep(2)
然后只执行func工作，输出结果：

1.  
   do func time : 2019-03-22 09:00:59
2.  
   do func time : 2019-03-22 09:01:02
3.  
   do func time : 2019-03-22 09:01:05
4.  
   复制代码

可以看到时间间隔为3S，为什么不是1S？
因为这个按照顺序执行，func休眠2S，循环任务查询休眠1S，所以会存在这个问题。
在我们使用这种方式执行任务需要注意这种阻塞现象。
我们看下schedule模块常用使用方法：

1.  
   #schedule.every(1)创建Job, seconds.do(func)按秒间隔查询并执行
2.  
   schedule.every(1).seconds.do(func)
3.  
   #添加任务按分执行
4.  
   schedule.every(1).minutes.do(func)
5.  
   #添加任务按天执行
6.  
   schedule.every(1).days.do(func)
7.  
   #添加任务按周执行
8.  
   schedule.every().weeks.do(func)
9.  
   #添加任务每周1执行，执行时间为下周一这一时刻时间
10.  
    schedule.every().monday.do(func)
11.  
    #每周1，1点15开始执行
12.  
    schedule.every().monday.at("12:00").do(job)
13.  
    复制代码

这种方式局限性：如果工作任务回非常耗时就会影响其他任务执行。我们可以考虑使用并发机制配置这个模块使用。

任务框架APScheduler

APScheduler是Python的一个定时任务框架，用于执行周期或者定时任务，
可以基于日期、时间间隔，及类似于Linux上的定时任务crontab类型的定时任务；
该该框架不仅可以添加、删除定时任务，还可以将任务存储到数据库中，实现任务的持久化，使用起来非常方便。
安装方式：pip install apscheduler
apscheduler组件及简单说明：

1>triggers（触发器）：触发器包含调度逻辑，每一个作业有它自己的触发器
2>job stores（作业存储）:用来存储被调度的作业，默认的作业存储器是简单地把作业任务保存在内存中,支持存储到MongoDB，Redis数据库中
3> executors（执行器）：执行器用来执行定时任务，只是将需要执行的任务放在新的线程或者线程池中运行
4>schedulers（调度器）：调度器是将其它部分联系在一起,对使用者提供接口，进行任务添加，设置，删除。我们的Python学习扣qun：784，758，214，看看前辈们是如何学习的！交流经验！

来看一个简单例子：

1.  
   import time
2.  
   from apscheduler.schedulers.blocking import BlockingScheduler
3.  
   def func():
4.  
   now = datetime.datetime.now()
5.  
   ts = now.strftime('%Y-%m-%d %H:%M:%S')
6.  
   print('do func time :',ts)
7.  
    
8.  
   def func2():
9.  
   #耗时2S
10.  
    now = datetime.datetime.now()
11.  
    ts = now.strftime('%Y-%m-%d %H:%M:%S')
12.  
    print('do func2 time：',ts)
13.  
    time.sleep(2)
14.  
     
15.  
    def dojob():
16.  
    #创建调度器：BlockingScheduler
17.  
    scheduler = BlockingScheduler()
18.  
    #添加任务,时间间隔2S
19.  
    scheduler.add_job(func, 'interval', seconds=2, id='test_job1')
20.  
    #添加任务,时间间隔5S
21.  
    scheduler.add_job(func2, 'interval', seconds=3, id='test_job2')
22.  
    scheduler.start()
23.  
    dojob()
24.  
    复制代码

输出结果：

1.  
   do func time : 2019-03-22 10:32:20
2.  
   do func2 time： 2019-03-22 10:32:21
3.  
   do func time : 2019-03-22 10:32:22
4.  
   do func time : 2019-03-22 10:32:24
5.  
   do func2 time： 2019-03-22 10:32:24
6.  
   do func time : 2019-03-22 10:32:26
7.  
   复制代码

输出结果中可以看到：任务就算是有延时，也不会影响其他任务执行。
APScheduler框架提供丰富接口去实现定时任务，可以去参考官方文档去查看使用方式。

最后选择：

简单总结上面四种定时定点任务实现：

1：循环+sleep方式适合简答测试，
2：timer可以实现定时任务，但是对定点任务来说，需要检查当前时间点；
3：schedule可以定点定时执行，但是需要在循环中检测任务，而且存在阻塞；
4：APScheduler框架更加强大，可以直接在里面添加定点与定时任务；

综合考虑，决定使用APScheduler框架，实现简单，只需要直接创建任务，并将添加到调度器中即可。

 

转载于:https://juejin.im/post/5d0d8bbf6fb9a07ee27b1e23