摘要:正文: 一、大数据相关的工作介绍 二、大数据工程师的技能要求 三、大数据学习规划 四、持续学习资源推荐(书籍,博客,网站) 五、项目案例分析(批处理+实时处理) 二、大数据介绍 大数据本质也是数据,但是又有了新的特征,包括数据来源广、数据格式多样化(结构化数据、非结构化数据、Excel文件、文本文件
阅读全文
12 2018 档案
摘要:桥接(Bridge)是用于把抽象化与实现化解耦,使得二者可以独立变化,它通过提供抽象化和实现化之间的桥接结构,来实现二者的解耦。 1)适配器:改变已有的两个接口,让他们相容。 2)桥接模式:分离抽象化和实现,使两者的接口可以不同,目的是分离。
阅读全文
摘要:查看单个进程的服务占用率 标红的部分单位是K 可以看到单个服务的内存占用达到了1.4G 查看服务器剩余内存 设置单个微服务的内存大小之前先了解一些基础知识 1、栈内存存储基本类型的变量和对象的引用变量。 2、堆内存用于存放由new创建的对象和数组。每new一个对象就在堆内存中开辟一个新的存储空间存储
阅读全文
摘要:filebeat的环境搭建 修改配置文件 启动 借鉴https://www.cnblogs.com/xishuai/p/elk-elasticsearch-kibana-logstash-filebeat-log4j2.html
阅读全文
摘要:前两节已经成功完成ek的搭建,还剩最后的一个日志上传的功能 依次执行如下命令 创建配置文件 input { stdin { } tcp { port => 8082 codec => json_lines }}output { elasticsearch { hosts => ["127.0.0.1
阅读全文
摘要:上一节elasticsearch搭建地址 https://www.cnblogs.com/mutong1228/p/10181544.html 学习了上一篇的搭建,理解了命令的含义之后,本节就非常方便了。 依次执行如下命令 cd /home/elkwget https://artifacts.ela
阅读全文
摘要:适配器就是一种适配中间件,它存在于不匹配的二者之间,用于连接二者,将不匹配变得匹配。 场景:电脑读取内存卡中的内容,内存卡是没有办法直接插在电脑的USB接口上,那就不需要一个转换器。 下面的例子实现了上述的功能 输出内容为:
阅读全文
摘要:Elasticsearch:负责日志检索和分析,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等 Logstash:对日志进行收集、过滤,并将其存储供以后使用(如,搜索日志) Kibana:为日志分析提供友好的Web界面,可以帮助汇总
阅读全文
摘要:程序代码 添加配置 application.properties logback.xml
阅读全文
摘要:两台服务器 centos-master 172.16.120.189 centos-minion 172.16.120.190 master上运行etcd, kube-apiserver, kubecontroller-manager和kube-scheduler minion上运行kubelet,
阅读全文
摘要:阿里云服务器: 127.0.0.1(客户端) 127.0.0.2(私有服务器) 127.0.0.2作为私有仓库使用 1.下载镜像 2.通过镜像启动一个容器 命令解析:docker run -d -p 5000:5000 -v /opt/data/registry:/tmp/registry regi
阅读全文
摘要:原因是因为编译启动连接了注册中心
阅读全文
摘要:先看一张自动生成的序列图 说明:建造房子是我们的目标house,建造房子要有工人worker,工人工作要有工序builder,有了工序就是付出实际的劳动ConcreteBuilder 再看实现的代码 建造者模式的定义是:将一个复杂对象的构造与它的表示分离,使同样的构建过程可以创建不同的表示,这样的设
阅读全文
摘要:1.下载tomcat docker pull tomcat 运行tomcat docker run -it -p 8888:8080 tomcat 查看tomcat内的文件 docker exec -it 9d4b52c9fb37 /bin/bash
阅读全文
摘要:1.下载jdk8 比如nacos会引用此变量 jdk自动安装目录为:/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.212.b04-0.el7_6.x86_64 配置环境变量: 在 /etc/profile 文件中加入如下内容:export JAVA_HOME=/usr/
阅读全文
摘要:概念科普 Docker image:镜像是只读的,镜像中包含有需要运行的文件。镜像用来创建container,一个镜像可以运行多个container;镜像可以通过Dockerfile创建,也可以从Docker hub/registry上下载。 Docker container:容器是Docker的运
阅读全文
摘要:必备知识: 1.定时任务 ScheduledExecutorService 简单的说明,实现runnable接口在建立对象的时候启动一个新的线程,建立线程池包含五个线程。 进入正题 initScheduledTasks() application.properties
阅读全文
摘要:http、tcp/ip和socket的区别,用一个序列图概括最合适 网络上的跨域请求,都是以URL的方式发送请求,后端接收。标准的http请求格式包括header和body,传输到服务端 应用的协议都是tcp/ip,服务端底层的实现都是基于socket的监听模式。 并发编程的三个概念 1.原子性 2
阅读全文
摘要:1.viso2013破解 https://blog.csdn.net/qq_20372833/article/details/79524803
阅读全文
摘要:SpringCloud Hystrix Dashboard Hystrix-dashboard是一款针对Hystrix进行实时监控的工具,通过Hystrix Dashboard我们可以在直观地看到各Hystrix Command的请求响应时间, 请求成功率等数据。 监控服务pom配置文件 appli
阅读全文
摘要:https://www.cnblogs.com/rwxwsblog/p/4542417.html http://www.cnblogs.com/gl-developer/p/6170423.html Mysql主从复制的实现原理图大致如下(来源网络): 实现MySQL主从复制需要进行的配置: 主服务
阅读全文
摘要:1构建任务 ->新建任务 2.填写任务名称 第二次构建可以复制第一次的配置 3.选择任务名称上面右键 选择配置 4.如下图所示 附录脚本内容 test.sh#!/bin/bash 需要注意的地方:如果远程执行脚本启动jar不成功,因为jar后没有跟路径,加上具体路径即可 ssh配置 依次系统管理->
阅读全文
摘要:热启动:修改代码保存时会自动重新启动项目。 热部署:动态替换你修改的class,效率会更高。 热部署是什么 编译生成Class 文件,文件里记录着和代码等对应的元数据,然后 Class 文件将被虚拟机的 ClassLoader 加载。 热部署利用class文件修改的特点,监听class文件是否有改动
阅读全文
摘要:00原则 封装变化 多用组合,少用继承 针对接口编程,不针对实现编程 为交互对象之间的松耦合设计而努力 ************************************************* 一对多的关系
阅读全文
摘要:1.安装git [root@insure ~]# yum install git [root@insure ~]# git --version 卸载git yum remove git 安装2.10版本 安装wget命令 yum -y install wget 下载wget https://www.
阅读全文
摘要:1.mkdir sentinel cp sentinel.conf sentinel/ # bind 127.0.0.1 192.168.1.1#注释掉或者值为0.0.0.0protected-mode no#关闭保护模式port 26001dir /opt/redis-4.0.2/sentinel
阅读全文
摘要:查看开放的端口 netstat -nupl (UDP类型的端口)netstat -ntpl (TCP类型的端口) a 表示所有 n表示不查询dns t表示tcp协议 u表示udp协议 p表示查询占用的程序 l表示查询正在监听的程序
阅读全文
摘要:[root@insure src]# ./redis-cli -c -h 172.16.*.* -p 6370 输入密码: auth 密码 查看节点信息 172.16.*.*:6370> cluster nodes 查看节点详细信息 172.16.*.*:6373> info replication
阅读全文
摘要:application.properties 集群配置 application.properties 单机版
阅读全文
摘要:阿里云上面装redis集群基本被虐死,主要问题就是私有IP和公有IP。 下面分享成功搭建的步骤: 两台测试服务器,分别为:127.0.0.1,127.0.0.2.每分服务器有3个节点。 1.127.0.0.1 创建节点 在目录/opt/redis-4.0.2 mkdir cluster mkdir
阅读全文
摘要:首先添加yum库 # cd /etc/yum.repos.d/ && vi docker.repo 使用命令 curl -fsSL https://get.docker.com/ | sh 进行下载 查看docker版本 docker version 查看是否有docker镜像 docker inf
阅读全文
摘要:spring cloud ribbon是HTTP和TCP的客户端负载均衡工具,基于netflix ribbon实现,springcloud对其做了封装。 服务器负载均衡原理就是通过心跳检测来剔除故障的服务节点以保证服务清单中的节点都是正常的。 当客户端发消息到服务端,负载均衡(软件或者硬件)按某种算
阅读全文
浙公网安备 33010602011771号