随笔分类 - python爬虫
这个版块主要介绍常用的python爬虫方法
摘要:''' 作业2: 判断user-agent,判断是否是正常浏览器访问 ''' from urllib import request base_url = "http://www.langlang2017.com" headers = { "connnction":"keep-alive", "USer_Agent":"mozilla/5.0 (Windows nt 6.1; ...
阅读全文
摘要:from urllib import request import random def spider(url): user_agent_list = [ "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.84 Safari/537....
阅读全文
摘要:#请求头 #1、引入模块 from urllib import request #2、操作 #(1)定义目标url base_url = "http://www.langlang2017.com/index.html" #请求头部---request headers headers = { "Accept":"text/html,application/xhtml+xml,a...
阅读全文
摘要:#使用urllib库,将langlang2017全站网页请求并保存 #1、引入模块 from urllib import request from urllib import error #2、操作 #(1)创建url base_url = "http://www.langlang2017.com/route.html" try: # (2)请求url reponse =...
阅读全文
摘要:#urllib库的基本使用 ''' 1、网页抓取 就是把URL地址中指定的网络资源从网络流中读取出来,保存到本地。 python2:urllib2 python3:urllib.request ''' #1、引入模块 from urllib import request #2、操作 #(1)定义目标url base_url = "http://www.langlang2017.com/in...
阅读全文

浙公网安备 33010602011771号