摘要: 引言 网站服务器会消耗很多的资源用于给爬虫提供服务,所以一些网站将反爬虫作为网站优化的手段之一; 另外,一些以内容提供为主的网站,会利用反爬虫技术防止网站内容被盗用。 反爬虫技术 以下是总结的一些反爬虫的手段: 通过爬虫的特有行为模式来发现爬虫:(链接并发度,访问频率,访问数据的范围) ... 阅读全文
posted @ 2016-01-11 17:43 OllieO 阅读(3267) 评论(0) 推荐(0) 编辑