产品经理学Python-爬虫攻坚no.2-简单爬虫架构
时间不等人,我学爬虫的近期目的是爬取一个网站的资源,主要是在大量的伪html中访问url不断请求数据,关键问题在正则表达 和访问速度上。
1/简单的爬虫架构示例

2/ 运行流程

3/URL管理器


网页下载器-urllib2
网页解析器-正则表达式、html.paser、BeautifulSoup、Ixml
BeautifulSoup
结构化解析-DOM解析

我是一名产品经理,一名懂技术的产品经理
时间不等人,我学爬虫的近期目的是爬取一个网站的资源,主要是在大量的伪html中访问url不断请求数据,关键问题在正则表达 和访问速度上。
1/简单的爬虫架构示例

2/ 运行流程

3/URL管理器


网页下载器-urllib2
网页解析器-正则表达式、html.paser、BeautifulSoup、Ixml
BeautifulSoup
结构化解析-DOM解析
