摘要：本文翻译自文章： Pandas Cheat Sheet - Python for Data Science ，同时添加了部分注解。 对于数据科学家，无论是数据分析还是数据挖掘来说，Pandas是一个非常重要的Python包。它不仅提供了很多方法，使得数据处理非常简单，同时在数据处理速度上也做了很多优 阅读全文

摘要：scrapy是一个Python爬虫框架。我们自己用requests也能写爬虫（GET某个URL，然后Parse网页的内容），那么，问题来了，scrapy高明在哪些地方呢？下面就来讨论下这个话题，看看业界通用的爬虫是怎么设计的。 从[1]可得scrapy架构图。它由5个核心模块组成。 5个模块功能 ( 阅读全文

摘要：最近在对爬虫服务做分布式服务的时候总是遇到服务器返回504,搞了两天才发现原来是nginx中有对超时的设置参数，自己都是用默认的，然而客户端的等待时间超过了nginx默认的超时设置 修改 keepalive_timeout 120; 默认的是75s,根据自己的需要修改合适的值 修改后再运行测试发现一 阅读全文