摘要: ##### filelock 用于文件锁定 用于多进程或多线程对同一文件的操作 ###### 用法: ```python from filelock import FileLock lock = FileLock("file.lock") with lock: # Do something with 阅读全文
posted @ 2023-08-03 18:25 向众神祈祷 阅读(485) 评论(0) 推荐(0)
摘要: ``` import random import requests from lxml import etree import time class Spider: def __init__(self): self.headers = { "user-agent": "Mozilla/5.0 (Wi 阅读全文
posted @ 2023-07-19 19:39 向众神祈祷 阅读(22) 评论(0) 推荐(0)
摘要: ``` import pymongo class MongoDBHelp: def __init__(self, database, collection): """ 初始化链接数据库集合 :param database:数据库名 :param collection: 集合名 """ self.co 阅读全文
posted @ 2023-07-19 19:34 向众神祈祷 阅读(28) 评论(0) 推荐(0)
摘要: ``` import pymysql import traceback class MysqlHelps: def __init__(self, host, db): self.connect = None self.mouse = None self.connect = pymysql.Conne 阅读全文
posted @ 2023-07-19 19:30 向众神祈祷 阅读(41) 评论(0) 推荐(0)
摘要: ###### 1.连接redis ```python import redis r = redis.Redis(host='localhost', port=6379, db=0) ``` ###### 2.字符串操作 ```python # 设置值 r.set('name', 'zhangsan' 阅读全文
posted @ 2023-07-07 10:41 向众神祈祷 阅读(138) 评论(0) 推荐(0)
摘要: ###### 进程池使用基础 当需要创建的子进程数量不多时,可以直接利用multiprocessing中的Process动态成生多个进程,但如果是上百甚至上千个目标,手动的去创建进程的工作量巨大,此时就可以用到multiprocessing模块提供的Pool方法。 初始化进程池时需要给定最大进程数, 阅读全文
posted @ 2023-06-20 20:29 向众神祈祷 阅读(55) 评论(0) 推荐(0)