11 2019 档案

摘要:信号量通常用于保护数量有限的资源,例如数据库服务器。在资源数量固定的任何情况下,都应该使用有界信号量。在生成任何工作线程前,应该在主线程中初始化信号量。 工作线程生成后,当需要连接服务器时,这些线程将调用信号量的 acquire 和 release 方法: 使用有界信号量能减少这种编程错误:信号量的 阅读全文
posted @ 2019-11-26 17:27 Mars.wang 阅读(445) 评论(0) 推荐(0)
摘要:一.进程间同步 对于一些临界资源,不能使用并发无限消耗,就需要设置专门的临界标示,比如锁或者信号量等 二.进程间通信 有时候需要在进程之间交换对象 multiprocessing 支持进程之间的两种通信通道: (1).队列 Queue 类是一个近似 queue.Queue 的克隆。 例如: 队列是线 阅读全文
posted @ 2019-11-26 17:15 Mars.wang 阅读(622) 评论(0) 推荐(0)
摘要:并发是快速处理大量相似任务的绝佳办法,但对于有返回值的方法,需要一个容器专门来存储每个进程处理完的结果 还有使用map的方式: 阅读全文
posted @ 2019-11-26 16:55 Mars.wang 阅读(4753) 评论(0) 推荐(0)
摘要:#获取表的最大分区 import boto3 from datetime import datetime,timedelta def get_max_partition(db_name,table_name,partition_format='%Y-%m-%d'): client=boto3.client('glue') yesterday=datetime.utcnow() max_partit 阅读全文
posted @ 2019-11-07 14:32 Mars.wang 阅读(1305) 评论(0) 推荐(0)
摘要:获取一个目录下所有指定格式的文件是实际生产中常见需求. 阅读全文
posted @ 2019-11-07 14:30 Mars.wang 阅读(920) 评论(0) 推荐(0)