摘要: python爬虫:一些常用的爬虫技巧 1、基本抓取网页 get方法: post方法: 2、使用代理IP 在开发爬虫过程中经常会遇到IP被封掉的情况,这时就需要用到代理IP; 在urllib2包中有ProxyHandler类,通过此类可以设置代理访问网页,如下代码片段: 3、Cookies处理 coo 阅读全文