随笔分类 - python学习
python学习笔记
摘要:创建项目 scrapy startproject choutiPro 创建爬虫文件 scrapy genspider -t crawl chouti www.xxx.com 进入pycharm 培训setting文件 配置UA 和robotstxt 配置 # -*- coding: utf-8 -*
阅读全文
摘要:scrapy框架中间件配置代理import random#代理池PROXY_http = [ '106.240.254.138:80', '211.24.102.168:80',]PROXY_https =[ '218.57.146.212:8888', '139.217.24.50:3128',]
阅读全文
摘要:#!/usr/bin/env python # -*- coding:utf-8 -*- from concurrent.futures import ThreadPoolExecutor #线程池,导入模块 import time def task(hostname): ''' 假设这里是要提交的任务 :param hostname: :return: ...
阅读全文

浙公网安备 33010602011771号