爬虫程序大魔王

摘要： 通过 IP 判断爬虫 如果你查看服务器日志，看到密密麻麻的 IP 地址，你一眼可以看出来那些 IP 是爬虫，那些 IP 是正常的爬虫，就像这样： 在这密密麻麻的日志里面，我们不仅要分辨出真正的爬虫 IP ，同时也要分辨出伪造的爬虫 IP，实属不易。 如果查看服务器日志，我们可以先通过 User-ag 阅读全文