摘要:
来源:心理测试搜索引擎的工作过程大体上可以分成三个阶段:1、爬行和抓取:搜索引擎蜘蛛通过跟踪链接访问网页,获得页面HTML代码入数据库。搜索引擎工作的第一步,完成数据收集的任务。1.1 蜘蛛搜索引擎为了提高爬行和抓取的速度,都使用多个蜘蛛并发分布爬行常见的蜘蛛名称:Baiduspider+(+http://www.baidu.com/search/spider.htm)百度蜘蛛Mozilla/5.0(compatible;Yahoo!Slurp China;http://misc.yahoo.com.cn/help.html)雅虎中国蜘蛛Mozilla/5.0(compatible;Yahoo 阅读全文
posted @ 2013-09-06 08:51 高山老王 阅读(332) 评论(0) 推荐(0)
浙公网安备 33010602011771号