碧海蓝天
今朝有酒今朝醉 明日无茶明日醒
posts - 32,comments - 15,trackbacks - 4

10 2009 档案
如何判断搜索引擎机器人(蜘蛛)有没有爬行你的站点?
摘要: 在USER_AGENT中,有相应的字符串可以判断是否是搜索引擎机器人来查找你公司的网站:Google的机器人:包含"Googlebot"的字符Baidu的机器人:包含"Baiduspider"的字符Yahoo!的机器人:包含"Yahoo! Slurp"的字符msn的机器人:包含"msnbot"的字符Soso的机器人:包含"Sosospider"的字符Sogou的机器人:包含"Sogou web s...阅读全文
posted @ 2009-10-28 18:46 碧海蓝天 阅读(834) | 评论 (0) 编辑