摘要:
在webmagic的多线程抓取中有一个比较麻烦的问题:当Scheduler拿不到url的 时候,不能立即退出,需要等到没抓完的线程都运行完毕,没有新url产生时,才能退出。之前使用Thread.sleep来实现,当拿不到url 时,sleep一段时间再取,确定没有线程执行之后,再退出。但是这种方式始... 阅读全文
posted @ 2016-01-21 21:36
xxxxxxxx1x2xxxxxxx
阅读(223)
评论(0)
推荐(0)
浙公网安备 33010602011771号