摘要: 01 Chrome调试 抓包工具原理 Chrome 开发者工具是一套内置在Google Chrome中Web开发和调试工具。使用开发者工具来重演,调试和剖析您的网站。 其中常用的有Elements(元素面板)、Console(控制台面板)、Sources(源代码面板)、Network(网络面板)。 阅读全文
posted @ 2019-06-06 16:13 博立克 阅读(960) 评论(0) 推荐(0)
摘要: 01 抓包工具原理 HTTP 由于HTTP请求是没有加密的,也没有做任何验证,所以抓包工具直接将请求转发即可。 HTTPS 由于HTTPS请求,客户端会使用服务端的证书来加密数据,而且会验证服务端是否是真正的目标服务端。 所以抓包工具在抓包HTTPS请求时,会进行伪装。 首先用抓包工具自己的证书向客 阅读全文
posted @ 2019-06-06 16:12 博立克 阅读(4238) 评论(0) 推荐(0)
摘要: Cookie的Python爬虫应用 Cookie是什么 Cookie,有时也用其复数形式 Cookies,英文是饼干的意思。指某些网站为了辨别用户身份、进行 session 跟踪而储存在用户本地终端上的数据(通常经过加密)。定义于 RFC2109 和 2965 中的都已废弃,最新取代的规范是 RFC 阅读全文
posted @ 2019-06-06 16:11 博立克 阅读(432) 评论(0) 推荐(0)
摘要: Python图像处理-Pillow 简介 Python传统的图像处理库PIL(Python Imaging Library ),可以说基本上是Python处理图像的标准库,功能强大,使用简单。 但是由于PIL不支持Python3,而且更新缓慢。所以有志愿者在PIL的基础上创建了一个分支版本,命名为P 阅读全文
posted @ 2019-06-06 16:09 博立克 阅读(1235) 评论(0) 推荐(0)
摘要: Selenium笔记(8)常见的坑 本文集链接:https://www.jianshu.com/nb/25338984 用Xpath查找数据时无法直接获取节点属性 通常在我们使用xpath时,可以使用@class的方式直接获取节点的属性,如下所示: 但在Selenium中不支持这种用法,只能在找到节 阅读全文
posted @ 2019-06-06 16:05 博立克 阅读(278) 评论(0) 推荐(0)
摘要: Selenium笔记(7)异常 本文集链接:https://www.jianshu.com/nb/25338984 完整文档 Exceptions that may happen in all the webdriver code. exception selenium.common.excepti 阅读全文
posted @ 2019-06-06 16:04 博立克 阅读(576) 评论(0) 推荐(0)
摘要: Selenium笔记(6)等待 本文集链接:https://www.jianshu.com/nb/25338984 简介 在selenium操作浏览器的过程中,每一次请求url,selenium都会等待页面加载完毕以后,才会将操作权限再次交给我们的程序。 但是,由于ajax和各种JS代码的异步加载问 阅读全文
posted @ 2019-06-06 16:03 博立克 阅读(252) 评论(0) 推荐(0)
摘要: Selenium笔记(5)动作链 本文集链接:https://www.jianshu.com/nb/25338984 简介 一般来说我们与页面的交互可以使用Webelement的方法来进行点击等操作。但是,有时候我们需要一些更复杂的动作,类似于拖动,双击,长按等等。 这时候就需要用到我们的Actio 阅读全文
posted @ 2019-06-06 16:02 博立克 阅读(289) 评论(0) 推荐(0)
摘要: Selenium笔记(4)Webelement 本文集链接:https://www.jianshu.com/nb/25338984 这是通过find方法找到的页面元素,此对象提供了多种方法,让我们可以与页面元素进行交互,例如点击、清空。 方法 clear()清空 如果当前元素中有文本,则清空文本 c 阅读全文
posted @ 2019-06-06 16:00 博立克 阅读(880) 评论(0) 推荐(0)
摘要: Selenium笔记(3)Remote Webdriver 本文集链接:https://www.jianshu.com/nb/25338984 简介 selenium.webdriver.remote.webdriver.WebDriver 这个类其实是所有其他Webdriver的父类,例如Chro 阅读全文
posted @ 2019-06-06 15:59 博立克 阅读(421) 评论(0) 推荐(0)
摘要: Selenium笔记(2)Chrome Webdriver启动选项 本文集链接:https://www.jianshu.com/nb/25338984 在Selenium中使用不同的Webdriver可能会有不一样的方法,有些相同的操作会得到不一样的结果,本文主要介绍的是Chrome()的使用方法。 阅读全文
posted @ 2019-06-06 15:58 博立克 阅读(935) 评论(0) 推荐(0)
摘要: Selenium笔记(1)安装和简单使用 本文集链接:https://www.jianshu.com/nb/25338984 简介 Selenium是一个用于Web应用程序测试的工具。 Selenium测试直接运行在浏览器中,就像真正的用户在操作一样。支持的浏览器包括IE(7, 8, 9, 10, 阅读全文
posted @ 2019-06-06 15:57 博立克 阅读(258) 评论(0) 推荐(0)
摘要: Python与常见加密方式 前言 数据加密与解密通常是为了保证数据在传输过程中的安全性,自古以来就一直存在,古代主要应用在战争领域,战争中会有很多情报信息要传递,这些重要的信息都会经过加密,在发送到对应的人手上。 现代 ,在网络发展初期,网络的数据安全性是没有被足够的重视的。事实上,当时为了实现数据 阅读全文
posted @ 2019-06-06 11:52 博立克 阅读(2530) 评论(0) 推荐(0)
摘要: HTML解析库BeautifulSoup4 本文链接:https://www.jianshu.com/p/e9255c446a77 BeautifulSoup 是一个可以从HTML或XML文件中提取数据的Python库,它的使用方式相对于正则来说更加的简单方便,常常能够节省我们大量的时间。 Beau 阅读全文
posted @ 2019-06-06 11:51 博立克 阅读(311) 评论(0) 推荐(0)
摘要: 更简单高效的HTML数据提取-Xpath 本文地址:https://www.jianshu.com/p/90e4b83575e2 XPath 是一门在 XML 文档中查找信息的语言。XPath 用于在 XML 文档中通过元素和属性进行导航。 相比于BeautifulSoup,Xpath在提取数据时会 阅读全文
posted @ 2019-06-06 11:50 博立克 阅读(697) 评论(0) 推荐(0)
摘要: 优雅到骨子里的Requests 本文地址:https://www.jianshu.com/p/678489e022c8 简介 上一篇文章介绍了Python的网络请求库urllib和urllib3的使用方法,那么,作为同样是网络请求库的Requests,相对于urllib,有什么优点呢? 其实,只有两 阅读全文
posted @ 2019-06-06 11:45 博立克 阅读(371) 评论(0) 推荐(0)
摘要: Python网络请求urllib和urllib3详解 urllib是Python中请求url连接的官方标准库,在Python2中主要为urllib和urllib2,在Python3中整合成了urllib。 官方文档链接为:https://docs.python.org/3/library/urlli 阅读全文
posted @ 2019-06-06 11:44 博立克 阅读(335) 评论(0) 推荐(0)
摘要: 深入浅出了解HTTP协议 HTTP(HyperText Transfer Protocol,超文本传输协议)是互联网上应用最为广泛的一种网络协议。目前使用最普遍的一个版本是HTTP 1.1。 HTTP协议是用于从WWW服务器传输超文本到本地浏览器的传送协议。它可以使浏览器更加高效,使网络传输减少。它 阅读全文
posted @ 2019-06-06 11:43 博立克 阅读(714) 评论(0) 推荐(0)
摘要: 1.正则表达式 正则可以代替其他任何工具,但是其他工具不能完全代替正则. 1.匹配或提取字符串的工具,基于所有语言之上的工具. 正则表达式所面向的问题 判断一个字符串是否匹配给定的格式,如判断用户注册账号是否满足格式. 从一个字符串中按指定格式提取信息.抓取页面中的链接. 判断用户提交的邮箱的格式是 阅读全文
posted @ 2019-06-06 11:15 博立克 阅读(239) 评论(0) 推荐(0)
摘要: 异常处理作业讲解 file = open('/home/pyvip/aaa.txt','w+') try: my_dict = {'name':'adb'} file.write(my_dict['age']) #只能传字符串 except Exception as e: print(e) fina 阅读全文
posted @ 2019-06-06 11:14 博立克 阅读(315) 评论(0) 推荐(0)
摘要: 几个命令: sudo apt install tree tree 当前目录以树形结构展示出来. tree a 查看a内的所有目录.也可以跟绝对路径. a = input('请输入您的密码') 将用户输入保存. 1.异常 异常就是报错. 异常:NameError SyntaxError TypeErr 阅读全文
posted @ 2019-06-06 11:11 博立克 阅读(194) 评论(0) 推荐(0)
摘要: 文件 装饰器,装饰函数或者类的方法. 1.文件的基本操作 打开文件: 注意绝对路径与相对路径. path = 'text.txt' path = r'/home/pyvip/py_case/text.txt' file = open(path,'w+') r代表只读 读取与关闭,参数加引号.w全部覆 阅读全文
posted @ 2019-06-06 11:10 博立克 阅读(231) 评论(0) 推荐(0)
摘要: 课前的解答 1.vim怎么退出都知道吧,配置了pep8,所以说会出现退出的时候error,再退出一次就ok q:退出 w:保存 wq 保存退出 q!:强制退出 shift + zz:保存退出 x:保存退出 2.推荐大家两款软件:向日葵(远程控制软件),网易有道词典,Python官方文档 3.函数名首 阅读全文
posted @ 2019-06-06 11:09 博立克 阅读(174) 评论(0) 推荐(0)
摘要: 1.继承 class Father: def init(self,age,sex): self.age = age self.sex = sex class Son(Father): 类名后面写括号,括号中放父类名. pass class Dog(默认继承object类):所有类的父类 pass 不 阅读全文
posted @ 2019-06-06 11:08 博立克 阅读(193) 评论(0) 推荐(0)
摘要: 1.类的定义 class 类 是独立存放变量(属性/方法)的一个空间. 每个实例都是一个独立的变量空间.不同实例之间的空间互相不可见. 一个实例的特征,就是属性. 定义在类中的私有属性也可以被子类继承. 变量在类中称为属性,但是类中的属性不仅仅只包含变量,函数等其他的对象也可以作为类的属性. 类可以 阅读全文
posted @ 2019-06-06 11:07 博立克 阅读(677) 评论(0) 推荐(0)
摘要: 1.匿名函数 list(filter(lamda a:a>3,[1,2,3,4,5])) 一般和过滤器一起使用 2.函数的作用域 a = 123 def test(): a = 666 a = a + 1 print(a) test() print(a) 1.函数外面访问不到函数里面的变量 2.函数 阅读全文
posted @ 2019-06-06 11:06 博立克 阅读(191) 评论(0) 推荐(0)
摘要: 函数基础和函数参数 可迭代对象:序列类型 range . 1.函数的定义 def 函数名(参数): pass return 表达式 ,不能是赋值语句.不写默认返回None.用逗号隔开返回一个元组. 函数名() # 调用 a() == 返回值,调用a函数就等于其返回值 函数命名的规则:字母(首字母小写 阅读全文
posted @ 2019-06-06 11:05 博立克 阅读(192) 评论(0) 推荐(0)
摘要: 控制流程 1.条件判断 python中的代码从上到下执行. if 条件: 缩进 语句1 elif 条件2: 缩进 语句2 (…或者写pass关键字.不写任何代码的时候,防止报错.) ... else: pass 语句last 2.三目运算 a = 7 print(True if a > 5 else 阅读全文
posted @ 2019-06-06 11:04 博立克 阅读(145) 评论(0) 推荐(0)
摘要: 散列类型 1.集合 定义集合 se = {1,2,3,4} se = set()定义空集合 se = {1,3,5,7} se2 = {1,3,8,9} se & se2 {1,3} 交集 se | se2 并集 se - se2 差集 add 增 pop 随机删 remove 指定删除 updat 阅读全文
posted @ 2019-06-06 11:03 博立克 阅读(208) 评论(0) 推荐(0)
摘要: VIM中HJKL可以上下左右移动光标. 格式化输出和深浅复制 1.字符串的拼接和格式化 sudo pip3 install ipython 安装 ipython 进入 字符串相加 str1 + str2 列表相加 list1 + list2 '%s'%12 指定位置拼接 'J%s%s'%(12,'晚 阅读全文
posted @ 2019-06-06 11:02 博立克 阅读(198) 评论(0) 推荐(0)
摘要: 列表的方法: 增:append() insert() extend()只能添加序列类型. .改li[0]= '123' li.insert(2,'123') 2个参数,位置,值 li.remove('123'),如果有两个123,只会删除前面第一个. 其他方法copy() reverse() sor 阅读全文
posted @ 2019-06-06 11:01 博立克 阅读(153) 评论(0) 推荐(0)
摘要: %,取余 //,取整,向下取整,5//2 = 2。 一、变量类型 1.变量名不能以数字开头,不能纯数字,不要用汉字,可以用下划线开头 2.数值类型(int,float,bool,complex) ​ 2.1 bool类型大小写区分,True,False。True + 1不会报错 ​ 2.2复数类型, 阅读全文
posted @ 2019-06-06 10:58 博立克 阅读(326) 评论(0) 推荐(0)