2016年8月9日
摘要: private static String concat(String tag,String Time) { // TODO Auto-generated method stub // return new StringBuilder(tag.length() + Time.length()) // .append(tag).append(Time).toString(); retu... 阅读全文
posted @ 2016-08-09 17:28 山高似水深 阅读(880) 评论(0) 推荐(0)
摘要: public static boolean isAngle(String str){ if(str.getBytes().length==str.length()){ //全是半角 return true; } return false; ... 阅读全文
posted @ 2016-08-09 17:27 山高似水深 阅读(2086) 评论(1) 推荐(1)
摘要: public static int appearNumber(String srcText, String findText) { int count = 0; int index = 0; while ((index = srcText.indexOf(findText, index)) != -1) { index... 阅读全文
posted @ 2016-08-09 17:26 山高似水深 阅读(1969) 评论(0) 推荐(0)
摘要: public static boolean isContainChinese(String str) { Pattern p = Pattern.compile("[\u4e00-\u9fa5a-zA-Z]"); Matcher m = p.matcher(str); if (m.find()) { return t... 阅读全文
posted @ 2016-08-09 17:25 山高似水深 阅读(268) 评论(0) 推荐(0)
摘要: public static boolean isMobile(String str) { Pattern p = null; Matcher m = null; boolean b = false; p = Pattern.compile("^[1][3,4,5,8][0-9]{9}$"); // 验证手机号 ... 阅读全文
posted @ 2016-08-09 17:00 山高似水深 阅读(359) 评论(0) 推荐(0)
摘要: Hadoop集群的各部分一般都会使用到多个端口,有些是daemon之间进行交互之用,有些是用于RPC访问以及HTTP访问。而随着Hadoop周边组件的增多,完全记不住哪个端口对应哪个应用,特收集记录如此,以便查询。 这里包含我们使用到的组件:HDFS, YARN, HBase, Hive, ZooK 阅读全文
posted @ 2016-08-09 16:50 山高似水深 阅读(6205) 评论(0) 推荐(1)
摘要: core-site.xml hdfs-site.xml mapred-site.xml yarn-site.xml hadoop-env.sh hive-env.sh hive-site.xml hbase-site.xml zoo.cfg 阅读全文
posted @ 2016-08-09 16:39 山高似水深 阅读(1324) 评论(0) 推荐(0)
摘要: 之前在网上搜索到的全部单位好像都是byte的,看起来很麻烦,然后自己看了下 hadoop fs -help hadoop fs -du -h / hadoop fs -du -h /tmp 很简单明了,前面的数字即为目录所占空间的大小,后面的因为我前期 备份数为3 后期改为2 所以可能会不一样 阅读全文
posted @ 2016-08-09 16:26 山高似水深 阅读(70166) 评论(2) 推荐(5)
摘要: 两天时间,知道现在才把这个东西解决 解决的灵感来源于百度知道一句话谢谢这个哥们 谢谢这个哥们! 谢谢这个哥们! ​我的目录是在/home/hadoop/tmp 大家如果遇到这个问题,希望能按照我的办法去试一下 2016年1月18日04:00:49​ 阅读全文
posted @ 2016-08-09 16:06 山高似水深 阅读(2726) 评论(0) 推荐(0)
摘要: zoo.cfg 1、server.1/2/3 有几台配置几个 ​2、配置好hosts映射之后可以用node1替代IP地址 3、dataLogDir 下面配置的logs 的目录一定要创建 4、dataDir 配置的目录下面一定要创建一个文本,里面写上server.(点)之后那个数字,每个节点都要写 5 阅读全文
posted @ 2016-08-09 16:05 山高似水深 阅读(392) 评论(0) 推荐(0)
摘要: MySQL无法select 和 delete,update同时进行 只有将group By 出来不重复的数据进行insert到一张和之前同样类型的新表里面 转换思路,解决问题!​​ 阅读全文
posted @ 2016-08-09 16:04 山高似水深 阅读(438) 评论(0) 推荐(0)
摘要: 1、截取 65534条数据,进行分sheet,然后1个sheet导入一张表,最后进行整合! 2、采用TXT导入方式,TXT的导入暂时没发现限制的数据条数,下午用TXT导入74万条数据成功 3、如果遇到log型的日志导入MySQL,可以直接复制成TXT,然后利用分隔符加上表头进行导入​ 阅读全文
posted @ 2016-08-09 16:03 山高似水深 阅读(6311) 评论(1) 推荐(0)
摘要: 在eclipse下配置hadoop location的时候 hadoop端口号应该与conf文件夹下的core-site.xml以及mapred-site.xml保持一致 前者对应dfs master,后者对应map-red master //这是mapred-site.xml mapred.job.tracker http://master.hadoop:90... 阅读全文
posted @ 2016-08-09 16:02 山高似水深 阅读(1766) 评论(0) 推荐(0)
摘要: UPDATE `bj_agent_new` SET Compay= CONCAT(substring_index(`Compay`,'开发商',1),'开发商') WHERE Compay LIKE '%开发商%'; sql附上 阅读全文
posted @ 2016-08-09 16:02 山高似水深 阅读(1163) 评论(0) 推荐(0)
摘要: log4j:WARN No appenders could be found for logger (org.apache.hadoop.metrics2.lib.MutableMetricsFactory). log4j:WARN Please initialize the log4j system properly. log4j:WARN See http://logging.apach... 阅读全文
posted @ 2016-08-09 16:00 山高似水深 阅读(1183) 评论(0) 推荐(0)
摘要: 转载: 大数据本身是个很宽泛的概念,Hadoop生态圈(或者泛生态圈)基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆,各有各的用处,互相之间又有重合。你可以用汤锅直接当碗吃饭喝汤,你可以用小刀或者刨子去皮。但是每个工具有自己的特性,虽然奇怪的组合 阅读全文
posted @ 2016-08-09 15:59 山高似水深 阅读(7761) 评论(0) 推荐(2)
摘要: 1、数据已经load进去hdfs 2、hive、hbase已经安装成功(我用的是hadoop 2.4 hbase 0.98.12 hive 1.2.1) 3、开始! 4、在hive建立表同时生成对应的一张Hbase表,分别在hive和hbase用show tables;和list查看是否生成对应的表 create table hive3 (key string,phone string... 阅读全文
posted @ 2016-08-09 15:58 山高似水深 阅读(788) 评论(0) 推荐(0)
摘要: 最近用本地Navicat连接集群的mysql,报了上述的错误,我认为是权限问题 之前试过赋权限给所有人,但是我这边还是连接不上,无奈,试试只分给我一个IP 开始:mysql -uroot -p //先登录mysql 我用的root用户 登录成功 mysql> ​然后开始赋权限: ​1、GRANT A 阅读全文
posted @ 2016-08-09 15:57 山高似水深 阅读(548) 评论(0) 推荐(0)
摘要: oracle获取字符串长度函数length()和hengthb() lengthb(string)计算string所占的字节长度:返回字符串的长度,单位是字节 length(string)计算string所占的字符长度:返回字符串的长度,单位是字符 对于单字节字符,LENGTHB和LENGTH是一样的. 如可以用length(‘string’)=lengthb(‘string’)判断... 阅读全文
posted @ 2016-08-09 15:56 山高似水深 阅读(4659) 评论(0) 推荐(0)
摘要: 配置外网和内网的映射,内部所有配置全部用内网的IP 本地所有配置皆为外网地址 本地给服务器发指令全部由映射转换为内网指定IP,即可​ 阅读全文
posted @ 2016-08-09 14:16 山高似水深 阅读(26031) 评论(0) 推荐(0)
摘要: 例如:我现在要同时执行这么多语句 update community set xqmc=replace(xqmc,' ',''); update community set xqbm=replace(xqbm,' ',''); update community set dkxx=replace(dkxx,' ',''); update community set ssqy=replace(... 阅读全文
posted @ 2016-08-09 14:15 山高似水深 阅读(27399) 评论(1) 推荐(0)
摘要: \n是换行,英文是New line,表示使光标到行首 \r是回车,英文是Carriage return,表示使光标下移一格 \r\n表示回车换行 阅读全文
posted @ 2016-08-09 14:14 山高似水深 阅读(348) 评论(0) 推荐(0)
摘要: 我是在hive删除表的时候出现这个错误的,看到这个错误应该就知道是字符集错误。 但是我用​ alter database hive character set latin1; 这个命令将其改成拉丁之后还是不行,然后我想到是不是这次hive是重装的,然后还保留有上次存在的hive表结构等存在mysql的数据信息,所以果断将mysql里面的hive数据库删了,然后重新: create data... 阅读全文
posted @ 2016-08-09 14:13 山高似水深 阅读(663) 评论(0) 推荐(0)
摘要: 错误遇到的情形: hive整合hbase,hive的数据表 load,select,insert一切正常 通过hive往hbase关联表插入数据的时候报错,错误内容如下: 2016-04-18 14:00:34,721 Stage-0 map = 0%, reduce = 0% 2016-04-18 14:00:56,491 Stage-0 map = 100%, reduce = 0% ... 阅读全文
posted @ 2016-08-09 12:09 山高似水深 阅读(6105) 评论(0) 推荐(0)
摘要: 1.JDK配置 1) 安装jdk 2) 配置环境变量 JAVA_HOME、CLASSPATH、PATH等设置 2.Eclipse 1).下载eclipse-jee-juno-SR2.rar 2).解压到本地磁盘 3.Ant 1)下载 http://ant.apache.org/bindownload 阅读全文
posted @ 2016-08-09 11:59 山高似水深 阅读(27628) 评论(0) 推荐(0)
摘要: select rand(); 这样取出来的数据是类似这样的: 0.5389902438400223 要几位自己取几位; 取得方法类似 select substr(concat("0000000",id),8,2) from workers //从第八位开始截2位 select right(concat("0000000",id),3) from workers //截取右边5位 ... 阅读全文
posted @ 2016-08-09 11:58 山高似水深 阅读(1020) 评论(0) 推荐(0)
摘要: 1 public class test2 { 2 public static void main(String []args){ 3 Timer timer=new Timer(); 4 timer.schedule(new TimerTask(){ 5 6 7 @Override 8 public void run() { 9 // TODO Auto-generated... 阅读全文
posted @ 2016-08-09 11:58 山高似水深 阅读(1007) 评论(0) 推荐(0)
摘要: 需求: 从mongoDB里面查出来数据,判断是否有该列簇,如果有则导入此条数据+列簇,如果没有,则该条数据不包含该列簇 直接贴出代码: package Test; import java.util.ArrayList; import java.util.Iterator; import java.util.List; import java.util.Set; import org.ap... 阅读全文
posted @ 2016-08-09 11:57 山高似水深 阅读(2862) 评论(0) 推荐(0)
摘要: 2016年5月11日10:08:29 hbase原本的put方式是一条一条的put,在客户端修改 AutoFlush 将HTable的setAutoFlush设为false,可以支持客户端批量更新。即当Put填满客户端flush缓存时,才发送到服务端。 默认是true。 例如: HTable hTable = new HTable(conf, tableName); hTable.setA... 阅读全文
posted @ 2016-08-09 11:56 山高似水深 阅读(1505) 评论(0) 推荐(0)
摘要: http://pan.baidu.com/s/1nvlIw21?errno=0&errmsg=Auth%20Login%20Sucess&stoken=bb98db9f451c00ae85e239959d4c9814aa7f9a1fa02096d2d11e7e51db7d37e2d4aab936f224063386d4b7593616668c78e318b42437bcd098876c2cf8e... 阅读全文
posted @ 2016-08-09 11:41 山高似水深 阅读(1012) 评论(1) 推荐(1)
摘要: package udf; import org.apache.hadoop.hive.ql.exec.UDF; public class helloudf extends UDF{ public String evaluate(String str){ try { return "HelloWorld " + str; } catch (Exception e) { // TODO: han... 阅读全文
posted @ 2016-08-09 11:40 山高似水深 阅读(3871) 评论(0) 推荐(0)
摘要: 类似: 在MYSQL里面我们可以这样的执行SQL select a.Community,a.PID,b.spidertime,b.comm,b.showings,b.room from lianjia_list a ,RentHouse_lianjia b where a.site = 7 and b.city='北京' and b.comm like %a.Community%; 不行... 阅读全文
posted @ 2016-08-09 11:38 山高似水深 阅读(55824) 评论(0) 推荐(2)
摘要: conn = MysqlJdbcUtils.getConnection(); Statement ps=conn.createStatement(); ps.addBatch("truncate QB_ShowCount_Asite_copy"); ps.executeBatch(); String SrcSql = "select convert(unhex(hex(convert(Commu... 阅读全文
posted @ 2016-08-09 11:38 山高似水深 阅读(3559) 评论(0) 推荐(0)
摘要: 就是简单的一个字符串拼接,意义和所用场景自己体会下 insert into table agent_library1 select concat_ws(':',collect_set(name)) as name,contact,concat_ws(':',collect_set(company)) as company,concat_ws(':',collect_set(stores))as... 阅读全文
posted @ 2016-08-09 11:35 山高似水深 阅读(26484) 评论(0) 推荐(0)
摘要: 经过测试其中匹配双字节字符(包括汉字在内):[^\x00-\xff]非常好用推荐一下 两外推荐个网址http://mscenter.edu.cn/blog/yongsheng/archive/2004/11/19/308.html 这个家伙收录的正则很多,呵呵 关键字:正则表达式 模式匹配 Java 阅读全文
posted @ 2016-08-09 11:34 山高似水深 阅读(5561) 评论(0) 推荐(0)
摘要: function chkHalf(str){ for(var i=0;i { strCode=str.charCodeAt(i); if((strCode>65248)||(strCode==12288)){ ale... 阅读全文
posted @ 2016-08-09 11:31 山高似水深 阅读(800) 评论(0) 推荐(0)
摘要: executeQuery : 用于实现单个结果集,例如: Select 一般使用executeQuery 就是来实现单个结果集的工具 executeUpdate 用于执行 INSERT、UPDATE 或 DELETE 语句以及 SQL DDL(数据定义语言)语句,例如 CREATE TABLE 和 阅读全文
posted @ 2016-08-09 11:29 山高似水深 阅读(3344) 评论(0) 推荐(0)

购买方式 点击下面图标购买