会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
叶落十七
博客园
首页
新随笔
联系
订阅
管理
2016年1月25日
Spark读HBase多表组成一个RDD
摘要: 环境:Spark-1.5.0 HBase-1.0.0。场景:HBase中按天分表存数据,要求将任意时间段的数据合并成一个RDD以做后续计算。尝试1: 寻找一次读取多个表的API,找到最接近的是一个叫MultiTableInputFormat的东西,它在MapReduce中使用良好, 但没有找到用于...
阅读全文
posted @ 2016-01-25 15:05 叶落十七
阅读(3411)
评论(0)
推荐(1)
2015年5月29日
端口没被占用,怎么会bind失败呢?
摘要: 今天在一个服务器上部署一个webserver的时候,提示我bind端口失败,我习惯性的用netstat看了下,没有被占用啊!把问题分享出来后,给力的同事们搜索到了ip_local_port_range这个东西这个东西对应的是/proc/sys/net/ipv4/ip_local_port_range...
阅读全文
posted @ 2015-05-29 18:01 叶落十七
阅读(3229)
评论(0)
推荐(0)
2015年5月11日
为什么用Redmine
摘要: 简单的说,Redmine是个项目管理软件。如何降低沟通成本、如何规避开发风险、如何压缩项目人力?这些问题看似高屋建瓴,实际上都不是非高手不可触及的。假设有一个研发团队,L是老大,他负责接入需求并安排任务。一、分配任务L理解某波需求后,会拉上相关人讨论,讲一下为什么做,做成什么样,怎么做。会后,经常有...
阅读全文
posted @ 2015-05-11 17:45 叶落十七
阅读(13414)
评论(0)
推荐(1)
2015年5月6日
Lua非阻塞写日志
摘要: 用nginx-lua搭的服务需要写日志,一般采用nginx自带的accesslog加logrotate脚本来实现,但是无法满足一次请求需要写多条日志的需求之前用C和GO实现过类似的代码,思路是主进程写管道,子进程读管道并交由apache-rotatelogs写日志这里用Lua也实现了一下---- R...
阅读全文
posted @ 2015-05-06 17:59 叶落十七
阅读(2038)
评论(0)
推荐(0)
2014年11月3日
Linux开启coredump
摘要: mkdir -p /home/data/corefilechmod 777 /home/data/corefileecho "ulimit -S -c unlimited > /dev/null 2>&1" >> /etc/profilesource /etc/profileecho "1" > /...
阅读全文
posted @ 2014-11-03 14:45 叶落十七
阅读(303)
评论(0)
推荐(0)
2014年9月23日
Nginx模块开发-获取用户ip
摘要: 核心代码:if(r->headers_in.x_real_ip != NULL) { ngx_log_error(NGX_LOG_ERR, r->connection->log, 0, "%V", &r->headers_in.x_real_ip->value); } else ...
阅读全文
posted @ 2014-09-23 14:34 叶落十七
阅读(341)
评论(0)
推荐(0)
公告