01 2021 档案
Scala_match、case、implicitt(四)
摘要:trait object Test05_trait { def main(args: Array[String]): Unit = { val person = new Person("AA"); person.hello() person.happy() person.ku() person.Ha
阅读全文
Scala_集合(三)
摘要:数组 // var 约等于final 不可变描述的是val指定的引用的值(值: 字面值,地址) val array01 = Array[Int](1,2,3,4) //错误 array01 = Array[Int](1,2,3,4) array01(1) = 99 println(array01(1
阅读全文
Scala基础用法(二)
摘要:流程控制 if var a = 3; if(a > 0){ println(s"$a > 0") }else{ println(s"$a < 0") } 3 > 0 whilr var b = 3; while (b < 10){ println(b) b += 1; } 3 4 5 6 7 8 9
阅读全文
Scala-idea搭建(一)
摘要:1.plugin中安装scala插件 2.项目设置 project structure Global Libraies --> + --> Download 2.11.xx版本 右键、Copy to Project Libraies Libraies目录中会出现 3.创建基本项目 scala ->
阅读全文
zookeeper
摘要:为什么用zk做分布式协调服务 1.leader肯定会挂 2.服务不可用 3.zk可以快速选主,并且瞬间能提高到挂掉之前的状态 zk目录结构 1.zookeeper是一个目录树结构 2.node可以存储数据,最大1MB 3.分为临时节点、持久节点、序列临时节点、序列持久节点、client连接先连接se
阅读全文
redis客户端高低版本简单实战、雪崩、击穿、穿透、布隆过滤器(三)
摘要:获取所有配置config get * 临时修改外部连接配置config set protected-mode no 代码地址:https://gitee.com/Xiaokeworksveryhard/big-data.git redis思路导图 数组长度也不是越长越好,占内存,数组长度计算公式 布
阅读全文
redis集群理论与实战(二)
摘要:joyieldInc代理 下载编译好的文件 git地址: https://github.com/joyieldInc/predixy 编译文件地址: https://github.com/joyieldInc/predixy/releases/download/1.0.5/predixy-1.0.5
阅读全文
redis集群理论与实战
摘要:理论 1.业务拆分 2.数据不能拆、使用算法,将数据分片 a.hash+取模 b.random随机分配 一般可以做消息队列 c.一致性hash/映射算法 1.算法生成hash环 2.机器node01、node02是物理机,可以在环上根据算法生成对应的物理点 3.凡是数据物理点之前的数据都属于该机器的
阅读全文
oracle单表循环修改表字段
摘要:DECLARE i number; j number; BEGIN i := 1; j := 0; select count(*) into j from table where scenaio = 0 ; loop exit when i > j ; update table set scenai
阅读全文
redis的集群、主从复制、CAP、paxos
摘要:redis单机、单节点、单实例 问题: 1.单点故障 2.容量有限 3.压力 看图复习 解决办法:AKF X: 全量、镜像 Y: 业务、功能 Z: 优先级、逻辑再拆分 x: x轴解决压力问题,x轴增加多台主从机器,主机写,从机读取,环节了压力 Y: y轴解决容量问题,相当于微服务分库,按照业务进行拆
阅读全文
redis持久化RDB、fork、copywrite
摘要:缓存:数据可以丢、追求极速! 数据库: 数据绝对不能丢的,速度+持久性 so: 当数据库的时候,需要数据持久化! 存储层: 1.快照、副本 2.日志 怎么持久化? 1.在当前县城开始持久化,假如8点开始持久化,8点半持久化完成,8点时候a=10 8点半时候a=20,那么到底持久化10还是20,如果持
阅读全文
redis消息、管道、事务、modules
摘要:和redis建立socket链接 nc localhost 6379 [root@redis ~]# nc localhost 6379 keys * *5 $6 unkey2 $5 unkey $2 k1 $2 k2 $6 unkey1 set nckey a +OK flushall +OK [
阅读全文
redis五种基本类型
摘要:String类型 set k1 aaa append k1 "bbb" getrange k1 0 -1 setrange k1 5(不能负数) ccc 替换,不够就补 object help object encoding k1 字符串是 embstr、raw、int incr k2 incrby
阅读全文
redis安装(二)
摘要:1,yum install wget2,cd ~3,mkdir soft4,cd soft5,wget http://download.redis.io/releases/redis-5.0.5.tar.gz6,tar xf redis...tar.gz7,cd redis-src8,看README
阅读全文
redis原理(一)
摘要:1.数据是存储在文件中的 2.linux读取方式: grep、awk 3.程序读取方式:java 4.常识 常识: 磁盘: 1,寻址:ms 2,带宽:G/M 内存: 1,寻址:ns 2,带宽:很大 秒>毫秒>微秒>纳秒 磁盘比内存在寻址上慢了10W倍 I/O buffer:成本问题 磁盘与磁道,扇区
阅读全文
项目实战 -sqoop写入Mysql(三)
摘要:1.参考官网文档:http://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html#_importing_data_into_hive_2 2.sqoop可以将mysql写入hive、HDFS、hbase中 3.sqoop可以将hive、HDFS、hbas
阅读全文
项目实战 -MapReduce将Hbase写入Mysql(三)
摘要:上课人数:指标 男生 女生 戴眼镜 不戴眼镜 戴眼镜男生 不戴眼镜男生 戴眼镜女生 不戴眼镜女生 张三 男 戴眼镜 李四 男生 不戴眼镜 需求:通过一个MR将所有存在的值都计算出来 map:输入一条记录,输出是K-V键值对的数据 男生 张三 戴眼镜 张三 戴眼镜男生 张三 男生 李四 不戴眼镜 李四
阅读全文
浙公网安备 33010602011771号