爬虫中动态的POST参数

爬虫的过程中,有的网站提交POST数据时候每次都会带上不懂POST参数,要想爬到数据首先的知道怎么构造这些动态的参数。

1、分析提交POST数据的最原始网页,分析原始网页的源代码,查找里面是否包含有你要的POST参数,通常这种标签是隐藏的。

  网站的这种保护措施算比较初级简单,你每次访问原始网页,服务器都动态的把POST参数传过来,然后设置成隐藏。

但是爬虫的时候这一步容易忘记分析,像我之前爬某网站的IP数据人家网站就是这么做的。

posted on 2017-07-03 16:41  WOTGL  阅读(634)  评论(0编辑  收藏  举报

导航