2018年5月12日

摘要: 1.项目的方向很重要,在项目开始之初就应该做好设计,而不是将希望寄托于别人已经做好的开源项目上,要自己做好系统设计,不能老想着直接用外部成型的项目,最多看看他人的逻辑,而不是说全部拿来。这点最为重要。前期应该多做background reading,自己做好系统架构。 2.做项目的时候,开始启动项目 阅读全文
posted @ 2018-05-12 22:35 edenpan 阅读(234) 评论(0) 推荐(0) 编辑

2018年4月30日

摘要: 可以打包的pom.xml: 然后 使用: 我的工程是使用spark streaming来着,所以运行命令如下: 但是会报错: 阅读全文
posted @ 2018-04-30 21:45 edenpan 阅读(1803) 评论(0) 推荐(0) 编辑

2018年4月23日

摘要: Spark Programming Shuffle operations http://spark.apache.org/docs/latest/rdd-programming-guide.html#shuffle-operations 一些spark的特定操作将会触发被称为shuffle的事件。S 阅读全文
posted @ 2018-04-23 18:19 edenpan 阅读(725) 评论(0) 推荐(0) 编辑

2017年3月9日

摘要: 最近看代码看到python里面的yield关键字,和我之前接触的语言好像都没有来着,我就查了查它的含义,大概理解如下: >>> def createGenerator(): ... mylist = range(3) ... for i in mylist: ... yield i*i ... >> 阅读全文
posted @ 2017-03-09 11:54 edenpan 阅读(1255) 评论(0) 推荐(0) 编辑

2017年2月28日

摘要: 1.如果直接docker的时候提示docker Deamon没有运行,可以将当前用户添加到docker的组里,这样无需sudo就可以运行了 2.docker images 列出现有镜像。 3.docker ps -a 列出全部的contain 4.docker build ”dockerFileDi 阅读全文
posted @ 2017-02-28 23:03 edenpan 阅读(193) 评论(0) 推荐(0) 编辑

2017年2月24日

摘要: 原文链接:https://struts.apache.org/primer.html 本来想写成读书笔记的,结果还是变成翻译,谨作记录,学习。 1.HTML -- 见我前面文章 2.Internet 了解 http 请求和响应的循环 见我前面文章 3.java Reflection 和 Intros 阅读全文
posted @ 2017-02-24 12:19 edenpan 阅读(150) 评论(0) 推荐(0) 编辑

2017年2月23日

摘要: 原文链接: https://web.stanford.edu/class/msande91si/www-spr04/readings/week1/InternetWhitepaper.htm 先写写我的心得吧:重新帮我复习了下TCP/IP四层协议,这次我很好理解了下应用层,TCP层— 端口号相关, 阅读全文
posted @ 2017-02-23 19:41 edenpan 阅读(780) 评论(0) 推荐(0) 编辑
 
摘要: https://www.w3.org/MarkUp/Guide/ 1.增加一个标题 <title>My first HTML document</title> 这个时候用浏览器打开文件其实只是一片空白。 2.添加头部和文件 HTML中有6个级别的头字体。H1是最重要的,H2次之,一直到H6 每一个片 阅读全文
posted @ 2017-02-23 14:42 edenpan 阅读(224) 评论(0) 推荐(0) 编辑

2017年2月16日

摘要: 这两天看完了Course上面的: 使用 Python 访问网络数据 https://www.coursera.org/learn/python-network-data/ 写了一些作业,完成了一些作业。做些学习笔记以做备忘。 1.正则表达式 虽然后面的课程没有怎么用到这个知识点,但是这个技能还是蛮好 阅读全文
posted @ 2017-02-16 11:56 edenpan 阅读(5153) 评论(0) 推荐(0) 编辑

2016年11月28日

摘要: 最近觉得自己下载有些jar的速度太慢了,就在aws上下好了,然后转到我电脑上来,在aws上开了ftp服务器。结果就倒腾了一上午,作个记录,以便后面查看。 1.安装vsftpd yum -y install vsftpd 2.把aws里面安全组的20 21 端口按tcp方式打开 3.使用root用户, 阅读全文
posted @ 2016-11-28 11:11 edenpan 阅读(457) 评论(0) 推荐(0) 编辑