摘要:
scrapy中间件 scrapy中间件主要由2个,1个是下载中间件,1个是爬虫中间件。 一、下载中间件 下载中间件主要用到的方法有三个: process_request(self, request, spider):用来处理正常的请求对象的数据,每个request请求通过下载中间件时,该方法被调用, 阅读全文
posted @ 2023-04-23 10:51
木去
阅读(78)
评论(0)
推荐(0)
摘要:
scrapy post请求 以百度翻译为例: import scrapy import json class TransSpiderSpider(scrapy.Spider): name = "trans_spider" allowed_domains = ["baidu.com"] # start 阅读全文
posted @ 2023-04-23 10:20
木去
阅读(91)
评论(0)
推荐(0)
浙公网安备 33010602011771号