摘要: 1.实时插入mysql时遇到的问题,使用的updateStaeBykey有状态的算子 必须设置checkpoint 如果报错直接删掉checkpoint 在创建的时候自己保存偏移量即可 再次启动时读取正确偏移量就行了 管他checkpoint 无关的事了 实时插入时有个问题是怎么进行mysql的数据 阅读全文
posted @ 2019-03-13 23:56 夜半钟声到客船 阅读(820) 评论(0) 推荐(0)
摘要: 关于hadoop一些自定义输出 code>OutputFormat describes the output-specification for a * Map-Reduce job. 首先继承outputFormat这个抽象类 Map-Reduce job的输出规范 实现他的方法: RecordWriter getRecordWriter 在方法内可以进行数据库连接操作 这里需要一个返回一... 阅读全文
posted @ 2019-03-13 22:16 夜半钟声到客船 阅读(251) 评论(0) 推荐(0)
摘要: linux 创建连接命令 ln -s 软链接 这是linux中一个非常重要命令,请大家一定要熟悉。它的功能是为某一个文件在另外一个位置建立一个同不的链接,这个命令最常用的参数是-s, 具体用法是:ln -s 源文件 目标文件。 当 我们需要在不同的目录,用到相同的文件时,我们不需要在每一个需要的目录下都放一个必须相同的文件,我们只要在某个固定的目录,放上该文件,然后在其它的 目录下用ln命令链接... 阅读全文
posted @ 2019-03-13 22:13 夜半钟声到客船 阅读(125) 评论(0) 推荐(0)
摘要: #!/bin/bash # dataformat=`date +%Y-%m-%d-%H-%M` #进行文件件cp并重命名 nginx_home=/opt/modules/nginx-1.12/ cp ${nginx_home}logs/access.log ${nginx_home}logs/access_$dataformat.log host=`hostname` #在每行之前插入ngi... 阅读全文
posted @ 2019-03-13 22:11 夜半钟声到客船 阅读(222) 评论(0) 推荐(0)
摘要: Synchronized(this) 锁住该代码块的对象,等访问该对象的线程执行完,其他线程才可以执行。 Synchronized(xxx.class) 锁住该类,所有访问该类的线程,一次只有一个可以执行。 其他 A. 无论synchronized关键字加在方法上还是对象上,如果它作用的对象是非静态的,则它取得的锁是对象;如果synchronized作用的对象是一个静态方法或一个类,则它取... 阅读全文
posted @ 2019-03-13 22:02 夜半钟声到客船 阅读(148) 评论(0) 推荐(0)