摘要: from twisted.internet import defer from twisted.web.client import getPage from twisted.internet import reactor def download(*args,**kwargs): print(args,kwargs) def stop(*args,**kwargs): re... 阅读全文
posted @ 2018-07-21 22:38 benchdog 阅读(158) 评论(0) 推荐(0) 编辑
摘要: 在spiders同级创建任意目录,如:commands 在其中创建 crawlall.py 文件 (此处文件名就是自定义的命令) 在settings.py 中添加配置 COMMANDS_MODULE = '项目名称.目录名称' 在项目目录执行命令:scrapy crawlall 阅读全文
posted @ 2018-07-21 22:36 benchdog 阅读(185) 评论(0) 推荐(0) 编辑
摘要: EXTENSIONS = { # 'scrapy.extensions.telnet.TelnetConsole': None, 'pro_scrapy.extensions.MyExtend': 300,} # -*- coding: utf-8 -*- # Scrapy settings for 阅读全文
posted @ 2018-07-21 19:09 benchdog 阅读(886) 评论(0) 推荐(0) 编辑