摘要: 介绍 RabbitMQ是一个消息代理。它的工作就是接收和转发消息。你可以把它想像成一个邮局:你把信件放入邮箱,邮递员就会把信件投递到你的收件人处。在这个比喻中,RabbitMQ就扮演着邮箱、邮局以及邮递员的角色。 RabbitMQ和邮局的主要区别在于,它处理纸张,而是接收、存储和发送消息(messa 阅读全文
posted @ 2019-08-06 15:31 哈喽哈喽111111 阅读(2572) 评论(0) 推荐(0) 编辑
摘要: 1. 安装步骤 rabbitmq从3.3.0开始禁止使用guest/guest权限通过除localhost外的访问。 如果想使用guest/guest通过远程机器访问,需要在rabbitmq配置文件中(/etc/rabbitmq/rabbitmq.config)中设置loopback_users为[ 阅读全文
posted @ 2019-08-06 15:28 哈喽哈喽111111 阅读(761) 评论(0) 推荐(0) 编辑
摘要: 1. 开启redis密码认证,并设置高复杂度密码 描述 redis在redis.conf配置文件中,设置配置项requirepass, 开户密码认证。 redis因查询效率高,auth这种命令每秒能处理9w次以上,简单的redis的密码极容易为攻击者暴破。 检查提示 \ 加固建议 1、长度8位以上 阅读全文
posted @ 2019-08-05 15:07 哈喽哈喽111111 阅读(1761) 评论(0) 推荐(1) 编辑
摘要: 一、简介 1.1 Redis是什么 Redis是一个开源的,使用ANSI C 编写,高性能的Key Value的NoSQL数据库。 1.2 Redis特点 (1)基于内存 (2)可持久化数据 (3)具有丰富的数据结构类型,适应非关系型数据的存储需求 (4)支持绝大多数主流开发语言,如C、C++、Ja 阅读全文
posted @ 2019-08-05 08:36 哈喽哈喽111111 阅读(11020) 评论(0) 推荐(3) 编辑
摘要: 1.FastDFS介绍 1.1 什么是FastDFS FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。Fa 阅读全文
posted @ 2019-07-31 15:51 哈喽哈喽111111 阅读(1306) 评论(0) 推荐(0) 编辑
摘要: 使用nginx搭建的站点,如果不想让所有人都能正常访问,那么可以设置访问认证,只有用户输入正确的用户名和密码才能正常访问。 1. nginx 开启访问验证 在 nginx 下,提供了 ngx_http_auth_basic_module 模块实现让用户只有输入正确的用户名密码才允许访问web内容。默 阅读全文
posted @ 2019-07-31 09:18 哈喽哈喽111111 阅读(2719) 评论(0) 推荐(0) 编辑
摘要: 1. CentOS系统安装openresty 你可以在你的 CentOS 系统中添加 仓库,这样就可以便于未来安装或更新我们的软件包(通过 命令)。运行下面的命令就可以添加我们的仓库: 然后就可以像下面这样安装软件包,比如 : 如果你想安装命令行工具 ,那么可以像下面这样安装 包: 命令行工具 在 阅读全文
posted @ 2019-07-30 18:20 哈喽哈喽111111 阅读(3467) 评论(1) 推荐(1) 编辑
摘要: 进入到需要查看的目录后,按住shift键,然后单击鼠标右键,选择“在此处打开命令窗口”,然后命令行窗口界面。 1.若是只查看该目录下有哪些目录,输入tree即可 2.若是显示该目录及其子目录下的所有目录和文件,输入tree /f即可 阅读全文
posted @ 2019-03-05 11:46 哈喽哈喽111111 阅读(2375) 评论(0) 推荐(0) 编辑
摘要: 1.控制台输出格式化的json数据 使用python内置的json处理,可以使JSON串具有一定的可读性,但当遇到大型数据时,它表现成一个很长的、连续的一行时,人的肉眼就很难观看了。为了能让JSON数据表现的更友好,我们可以使用indent参数来输出漂亮的JSON。当在控制台交互式编程或做日志时,这 阅读全文
posted @ 2019-02-28 11:02 哈喽哈喽111111 阅读(378) 评论(0) 推荐(0) 编辑
摘要: 参考链接:https://www.highcharts.com.cn/docs/themes 1.使用官方提供的主题js文件,只需要在 highcharts.js 后引入对应的文件即可,不用修改原有的js文件 示例代码: html代码: 2.自定义主题文件。 将图表的样式和数据配置分离是非常有必要的 阅读全文
posted @ 2019-02-27 14:25 哈喽哈喽111111 阅读(604) 评论(0) 推荐(0) 编辑
摘要: 说用:引入export-data.js文件后,导出菜单中会自动显示出相应的导出选项,只需要在lang中换成中文名即可。 本实例除了包含系统自带的,还包括自定义的导出菜单等。 html代码 js代码 效果: 阅读全文
posted @ 2019-02-27 10:55 哈喽哈喽111111 阅读(1072) 评论(0) 推荐(0) 编辑
摘要: 参考链接: https://www.highcharts.com.cn/docs/export-module-overview https://api.hcharts.cn/highcharts#exporting.chartOptions 图表导出模块是指提供了将网页中图表导出为常见的图片格式(P 阅读全文
posted @ 2019-02-26 12:56 哈喽哈喽111111 阅读(380) 评论(0) 推荐(0) 编辑
摘要: 参考链接:https://www.highcharts.com.cn/docs/data-modules 1.javascript代码 2.html代码(含css) 效果: 阅读全文
posted @ 2019-02-25 17:39 哈喽哈喽111111 阅读(1081) 评论(0) 推荐(0) 编辑
摘要: 参考链接:https://www.highcharts.com.cn/docs/data-modules 1.javascript代码 2.html代码 3.css代码 效果: 阅读全文
posted @ 2019-02-25 17:33 哈喽哈喽111111 阅读(333) 评论(0) 推荐(0) 编辑
摘要: 1.html代码 2.js代码 阅读全文
posted @ 2019-02-25 16:49 哈喽哈喽111111 阅读(256) 评论(0) 推荐(0) 编辑
摘要: 1.html代码 2.js代码 阅读全文
posted @ 2019-02-25 16:47 哈喽哈喽111111 阅读(418) 评论(0) 推荐(0) 编辑
摘要: 参考链接:https://www.highcharts.com.cn/docs/process-text-data-file 1.javascript代码 2.html代码 效果: 1.修改成从scv文件中获取数据 csv文件内容如下: 2.py代码 3.html代码 4.js代码 --还是原来的 阅读全文
posted @ 2019-02-25 16:29 哈喽哈喽111111 阅读(1514) 评论(0) 推荐(0) 编辑
摘要: 参考链接:https://www.highcharts.com.cn/docs/ajax 参考链接中的示例代码是使用php写的,这里改用python写。 需要注意的地方: 1.接口返回的数据格式,这个需要根据Ajax请求代码而定,是一个数值,还是一个数组。 2.js中Ajax的写法,请求路径,请求返 阅读全文
posted @ 2019-02-25 11:27 哈喽哈喽111111 阅读(2132) 评论(0) 推荐(0) 编辑
摘要: 服务端动态渲染图表 参考文章链接:https://www.highcharts.com.cn/docs/dynamic-produce-html-page 参考文章是使用php写的,我这边改用python写 具体如下: 1.目录结构: ajax_demo ajax_demo.py templates 阅读全文
posted @ 2019-02-23 17:47 哈喽哈喽111111 阅读(1354) 评论(0) 推荐(0) 编辑
摘要: 1、下载安装最新版的Chrome浏览器,我是在腾讯软件下载中心下载的,使用普通下载,下载地址:https://dl.softmgr.qq.com/original/Browser/72.0.3626.109_chrome_installer_x64.exe 2、下载安装最新版的IDM下载软件,直接在 阅读全文
posted @ 2019-02-23 17:10 哈喽哈喽111111 阅读(112705) 评论(1) 推荐(0) 编辑
摘要: 1.html页面写法 2.a.js文件 注意js文件的写法: 或者其简写形式: 阅读全文
posted @ 2019-02-21 10:37 哈喽哈喽111111 阅读(1269) 评论(0) 推荐(0) 编辑
摘要: 本文转载自以下链接:https://github.com/Light-City/AutoDownloadWhl 源码地址: https://github.com/Light-City/AutoDownloadWhl 本次脚本我将它命名为:Whl自助搜索下载器 实现了如下功能: 支持检索 支持查找 支 阅读全文
posted @ 2019-02-16 10:33 哈喽哈喽111111 阅读(3574) 评论(1) 推荐(0) 编辑
摘要: 需要学习的地方,使用官方组件下载图片的用法,保存item到MySQL数据库 需要提前创建好MySQL数据库,根据item.py文件中的字段信息创建相应的数据表 1.items.py文件 2.settings.py文件 3.pipeline.py文件 阅读全文
posted @ 2019-02-14 17:53 哈喽哈喽111111 阅读(524) 评论(0) 推荐(0) 编辑
摘要: 压 缩:tar -jcv -f filename.tar.bz2 要被压缩的文件或目录名称 查 询:tar -jtv -f filename.tar.bz2 解压缩:tar -jxv -f filename.tar.bz2 -C 欲解压缩的目录压缩时排出某个目录使用:--exclude,注意uplo 阅读全文
posted @ 2019-02-13 10:26 哈喽哈喽111111 阅读(206) 评论(0) 推荐(0) 编辑
摘要: 需要学习的地方: 保存item到MySQL数据库,MongoDB数据库,下载图片 1.爬虫文件images.py 2.items.py 3.pipelines.py 4.settings.py 配置文件中增加如下内容 代码下载地址:https://files.cnblogs.com/files/sa 阅读全文
posted @ 2019-02-01 14:15 哈喽哈喽111111 阅读(358) 评论(0) 推荐(0) 编辑
摘要: 1.爬虫文件httpbin.py 2.中间件文件middlewares.py 不在settings.py文件中设置请求头。而是在下载器中间件中,也就是在请求requests之前加上请求头 另外在response响应后更改状态码 3.配置文件settings.py 在配置文件中启用该配置 阅读全文
posted @ 2019-02-01 14:11 哈喽哈喽111111 阅读(425) 评论(0) 推荐(0) 编辑
摘要: 阅读全文
posted @ 2019-02-01 11:24 哈喽哈喽111111 阅读(469) 评论(0) 推荐(0) 编辑
摘要: 描述:需要拖动拼合滑块才可以完成验证 准备工作: 使用的Python库是selenium,浏览器为Chrome 识别验证的关键思路: 1.模拟点击验证按钮 2.识别滑动缺口的位置 3.模拟拖动滑块 阅读全文
posted @ 2019-02-01 11:01 哈喽哈喽111111 阅读(870) 评论(0) 推荐(0) 编辑
摘要: pipelines.py文件中 阅读全文
posted @ 2019-01-31 17:01 哈喽哈喽111111 阅读(1662) 评论(0) 推荐(0) 编辑
该文被密码保护。 阅读全文
posted @ 2019-01-31 16:43 哈喽哈喽111111 阅读(2) 评论(0) 推荐(0) 编辑
摘要: 前提工作:识别图形验证码需要库tesserocr 把图形验证码保存到项目根目录,然后利用程序识别 方法1: 方法2:识别度较差 方法3:做一些灰度处理和二值化处理,推荐使用 注意: 使用这样的识别方法存在如下两种情况: 1.识别有误 2.完全识别不出来 阅读全文
posted @ 2019-01-31 11:01 哈喽哈喽111111 阅读(588) 评论(0) 推荐(0) 编辑
摘要: 在 Chrome 59 版本开始已经开始支持了 Headless 模式,也就是无界面模式,这样爬取的时候就不会弹出浏览器了,如果要使用此模式请把 Chrome 升级到 59 版本及以上,启用 Headless 模式的方式如下: 首先创建一个 ChromeOptions 对象,添加一个 headles 阅读全文
posted @ 2019-01-30 16:57 哈喽哈喽111111 阅读(1456) 评论(1) 推荐(0) 编辑
摘要: 直接使用模拟浏览器运行的方式来实现,这样我们就可以做到浏览器看到是什么样,抓取的源码就是什么样,也就是可见即可爬。这样我们就不用再去管网页内部的 JavaScript 用了什么算法渲染页面,不用管网页后台的 Ajax 接口到底有哪些参数,利用模拟浏览器的方式我们都可以直接获取 JavaScript 阅读全文
posted @ 2019-01-30 16:49 哈喽哈喽111111 阅读(477) 评论(0) 推荐(1) 编辑
摘要: 1、Redis本身防护 (1)不要使用默认端口(6379) (2)增加Redis用户名和密码 (3)在Redis绑定指定IP访问(位置配置文件[redis.config]中的bind节点)2、Linux服务器 (1)Redis服务器不要暴露在外网 (2)开启防火墙,限制IP可以访问(iptables 阅读全文
posted @ 2019-01-30 11:24 哈喽哈喽111111 阅读(755) 评论(0) 推荐(0) 编辑
摘要: 前提条件: 安装并运行redis服务端程序,安装RedisPy库 说明:Redis 是 StrictRedis 的子类,它的主要功能是用于向后兼容旧版本库里的几个方法,官方推荐使用 StrictRedis。 1.连接 2.key操作 方法 作用 参数说明 示例 示例说明 示例结果 exists(na 阅读全文
posted @ 2019-01-30 11:21 哈喽哈喽111111 阅读(872) 评论(0) 推荐(1) 编辑
摘要: 1.连接MongoDB 连接 MongoDB 我们需要使用 PyMongo 库里面的 MongoClient,一般来说传入 MongoDB 的 IP 及端口即可,第一个参数为地址 host,第二个参数为端口 port,端口如果不传默认是 27017。 2.指定数据库 3.指定集合 MongoDB 的 阅读全文
posted @ 2019-01-29 18:24 哈喽哈喽111111 阅读(272) 评论(0) 推荐(0) 编辑
摘要: 1.连接并创建数据库 执行结果: Database version: ('5.7.23',) 结果是创建一个名为spiders的数据库 2.创建数据表 注意:这次连接数据库时需要指定创建数据表所在的数据库,也就是db参数的值 3.插入一条数据 通用写法: 这样一来,若是写入更多值的话直接给data字 阅读全文
posted @ 2019-01-29 17:57 哈喽哈喽111111 阅读(434) 评论(0) 推荐(0) 编辑
摘要: 5.1 文件存储 文件存储形式可以是多种多样的,比如可以保存成 TXT 纯文本形式,也可以保存为 Json 格式、CSV 格式等,本节我们来了解下文本文件的存储方式。 5.1.1 TXT文本存储 将数据保存到 TXT 文本的操作非常简单,而且 TXT 文本几乎兼容任何平台,但是有个缺点就是不利于检索,所以如果对检索和数据结构要求不高,追求方便第一的话,可以采用 TXT 文本存储,本节我们来看... 阅读全文
posted @ 2019-01-29 17:21 哈喽哈喽111111 阅读(2015) 评论(0) 推荐(0) 编辑
摘要: 基于菜鸟教程实际操作后总结而来 Python MongoDB MongoDB 是目前最流行的 NoSQL 数据库之一,使用的数据类型 BSON(类似 JSON)。 MongoDB 数据库安装与介绍可以查看我们的 MongoDB 教程。 PyMongo Python 要连接 MongoDB 需要 Mo 阅读全文
posted @ 2019-01-24 11:27 哈喽哈喽111111 阅读(978) 评论(0) 推荐(0) 编辑
摘要: 比如使用命令行的方式查看数据库runoobdb中的sites集合(数据表)中的所有数据 1.在连接名的地方鼠标右键选择“open shell” 2.在出现的shell窗口中输入一下命令行,然后按ctrl+enter组合键执行命令 或者在数据库runoobdb处右键选择“open shell”,直接输 阅读全文
posted @ 2019-01-24 10:56 哈喽哈喽111111 阅读(3977) 评论(1) 推荐(0) 编辑