摘要: 一、代理池 代理池分为4块:存储模块、获取模块、检测模块、接口模块,其中多进程运行获取、检测、接口 存储模块:负责存储抓取下来的代理。保证代理不重复,标识代理的可用情况,动态实时处理每个代理(使用Redis的Sorted-Set有序集合) 获取模块:需要定时在各大代理网站抓取代理。 检测模块:需要定 阅读全文
posted @ 2018-12-11 23:45 起航追梦人 阅读(291) 评论(0) 推荐(0)