08 2019 档案

摘要:flask_sqlalchemy 1. flask_sqlalchemy 1.1. 简介 flask_sqlalchemy:用来操作数据库的扩展包 好处: 不用编写sql语句 官网介绍: Flask-SQLAlchemy is an extension for Flask that adds sup 阅读全文
posted @ 2019-08-30 21:02 木林森__𣛧 阅读(234) 评论(0) 推荐(0)
摘要:flask_script 1. flask_script doc: https://flask-script.readthedocs.io/en/latest/ The Flask-Script extension provides support for writing external scri 阅读全文
posted @ 2019-08-30 20:59 木林森__𣛧 阅读(162) 评论(0) 推荐(0)
摘要:flask_migrate 1. flask_migrate doc: https://flask-migrate.readthedocs.io/en/latest/ 1.1. 简介 在使用falsk_sqlalchemy时,采用db.create_all()创建表,但在后期修改数据库表字段的时候, 阅读全文
posted @ 2019-08-30 20:58 木林森__𣛧 阅读(223) 评论(0) 推荐(0)
摘要:docker创建镜像 1. 创建python镜像 1.1. 什么是dockerfile? Dockerfile是一个包含用于组合映像的命令的文本文档。可以使用在命令行中调用任何命令。Docker通过读取Dockerfile中的指令自动生成映像。 dockerbuild命令用于从Dockerfile构 阅读全文
posted @ 2019-08-30 20:57 木林森__𣛧 阅读(168) 评论(0) 推荐(0)
摘要:docker命令 1. 运行及状态管理 1.1. 创建/启动/终止/删除容器 docker create 创建容器,新创建的容器是停止状态 docker start 启动容器 docker restart 守护态,后台运行docker run –d python /bin/echo ‘hello w 阅读全文
posted @ 2019-08-30 20:52 木林森__𣛧 阅读(205) 评论(0) 推荐(0)
摘要:压力测试-apachebench 1. 压力测试 压力测试的概念\定义: 性能测试Performance Test :是指通过自动化的测试工具模拟多种正常、峰值以及异常负载条件来对系统的各项性能指标进行测试; 压力测试 stress testing :是指通过测试系统的瓶颈或者不能接受的性能点,来获 阅读全文
posted @ 2019-08-30 20:51 木林森__𣛧 阅读(396) 评论(0) 推荐(0)
摘要:gunicorn 1. 简介 官网:https://gunicorn.org/#docs Gunicorn 'Green Unicorn' is a Python WSGI HTTP Server for UNIX. It's a pre-fork worker model. The Gunicor 阅读全文
posted @ 2019-08-30 20:50 木林森__𣛧 阅读(543) 评论(0) 推荐(0)
摘要:一致性Hash算法 一致性Hash算法在1997年由麻省理工学院提出的一种分布式哈希(DHT)实现算法,设计目标是为了解决因特网中的热点(Hot Spot)问题,初衷和CARP十分相似。一致性Hash修正了CARP使用的简单哈希算法带来的问题,使得分布式哈希(DHT)可以在P2P环境中真正得到应用。 阅读全文
posted @ 2019-08-25 14:03 木林森__𣛧 阅读(156) 评论(0) 推荐(0)
摘要:twisted的task之cooperator和scrapy的parallel()函数 本文是关于下载结果返回后调用item处理的过程实现研究。 从scrapy的结果处理说起 def handle_spider_output(self, result, request, response, spid 阅读全文
posted @ 2019-08-23 15:03 木林森__𣛧 阅读(337) 评论(0) 推荐(0)
摘要:twisted task.cpperator 1. twisted task.cpperator 1.1. 简介-cooperator 官方文档: https://twistedmatrix.com/documents/current/api/twisted.internet.task.Cooper 阅读全文
posted @ 2019-08-23 14:59 木林森__𣛧 阅读(193) 评论(0) 推荐(0)
摘要:python splash scrapy 1. 前言 slpash是一个渲染引擎,它有自己的api,可以直接访问splash服务的http接口,但也有对应的包python-splash方便调用。 1.1. python + splash简单调用 先从直接访问http接口开始。 import requ 阅读全文
posted @ 2019-08-23 14:57 木林森__𣛧 阅读(597) 评论(0) 推荐(0)
摘要:splash 1. splash简介 Splash是一个JavaScript渲染服务,是一个带有HTTP API的轻量级浏览器,同时它对接了Python中的Twisted和QT库。利用它,我们同样可以实现动态渲染页面的抓取。 利用Splash,我们可以实现如下功能: 异步方式处理多个网页渲染过程; 阅读全文
posted @ 2019-08-23 14:54 木林森__𣛧 阅读(1140) 评论(0) 推荐(0)
摘要:复杂度速查表 引用:https://liam.page/2016/06/20/big-O-cheat-sheet/ 发表于 2016 年 06 月 20 日 更新于 2019 年 05 月 16 日 分类于 Algorithm and Computer Science 阅读次数: 2287 本文字数 阅读全文
posted @ 2019-08-23 14:50 木林森__𣛧 阅读(294) 评论(0) 推荐(0)
摘要:docker部署-windows环境 1. docker windows 1.1. 安装 win7或者win8需要利用docker toolbox来安装,其是一个docker工具集,win10自带Docker安装包。 下载安装文件 通过aliyun镜像下载(推荐): http://mirrors.a 阅读全文
posted @ 2019-08-15 23:36 木林森__𣛧 阅读(1086) 评论(0) 推荐(0)
摘要:缓存穿透、缓存击穿、缓存雪崩区别和解决方案 1. 缓存穿透、缓存击穿、缓存雪崩区别和解决方案 1.1. 缓存处理流程 前台请求,后台先从缓存中取数据,取到直接返回结果,取不到时从数据库中取,数据库取到更新缓存,并返回结果,数据库也没取到,那直接返回空结果。 1.2. 缓存穿透 问题:缓存穿透是指缓存 阅读全文
posted @ 2019-08-13 21:16 木林森__𣛧 阅读(670) 评论(0) 推荐(0)
摘要:python 解释器声明 unix #!/usr/bin/env python 1. 问题的开始在代码移植到unix平台后,部分应用在运行时报如下错误:subprocess.Popen():OSError:[Errno 8] python中的exec格式错误?查阅得知可能是找不到编译器,但新的问题是 阅读全文
posted @ 2019-08-13 21:15 木林森__𣛧 阅读(809) 评论(0) 推荐(0)
摘要:juypter 1. jupyter 1.1. 它是什么? Jupyter Notebooks 是一款开源的网络应用,我们可以将其用于创建和共享代码与文档。 以前叫ipython notebook。 1.2. 它可以做什么? 像其它IDE一样,写代码; 不同之处是它的代码是按独立单元编写和执行的,每 阅读全文
posted @ 2019-08-13 21:13 木林森__𣛧 阅读(498) 评论(0) 推荐(0)
摘要:ipython 1. ipython简介 官网:http://ipython.org/ 它是什么? 它是一个python解释器,python原生解释器是cpython 它实质还是使用原生解释器,但提供了更好的接口/界面。 2. 安装使用 2.1. 安装 pip install ipython pip 阅读全文
posted @ 2019-08-13 21:12 木林森__𣛧 阅读(189) 评论(0) 推荐(0)
摘要:nginx 1. 它是什么 Nginx是一款高性能的Web服务器软件,主要用于提供网上信息浏览服务,为高并发网站的应用场景而设计,可以在Linux、macOS和Windows等操作系统中运行,它的优点包括性能高、稳定性好、结构模块化、配置简单以及资源消耗非常低等。拥有HTTPS访问、gzip压缩、虚 阅读全文
posted @ 2019-08-13 21:11 木林森__𣛧 阅读(263) 评论(0) 推荐(0)
摘要:centosflask+uWSGI+nginx部署 1. 概念 Flask自带webserver--Werkzeug,可以搭建服务,运行网站。但在开发时,一般会用专业的--uWSGI。 另外,常配合使的还有nginx。 1.1. uWSGI uWSGI是一个全站式的托管服务,它实现了应用服务器(支持 阅读全文
posted @ 2019-08-13 21:05 木林森__𣛧 阅读(306) 评论(0) 推荐(0)
摘要:uWSGI配置参数释义 socket : 地址和端口号,例如:socket = 127.0.0.1:50000 processes : 开启的进程数量 workers : 开启的进程数量,等同于processes(官网的说法是spawn the specified number of workers 阅读全文
posted @ 2019-08-13 21:03 木林森__𣛧 阅读(1559) 评论(0) 推荐(0)