日志

今天学的是hadoop上午先跟着教程装环境,本以为就是简单几步,结果踩了满脚的坑。先是虚拟机的内存分配不够,启动HDFS的时候直接闪退;好不容易调大内存,又遇到SSH免密登录配置失败,折腾了快两个小时,才终于看到 hadoop namenode -format 执行成功的提示,那一刻差点激动得喊出声。

下午学HDFS的基本操作,跟着敲 hadoop fs -mkdir /test 、 hadoop fs -put test.txt /test 这些命令,一开始还老是输错参数,要么少个斜杠,要么大小写搞混。慢慢熟练之后,看着本地文件成功上传到分布式文件系统里,那种感觉还挺奇妙的。老师说HDFS的核心是“分而治之”,把大文件切成小块存在不同节点上,今天算是有点直观的体会了。

晚上本来想试试写个简单的MapReduce程序,结果光是理解“映射-归约”的思想就花了好久

posted @ 2025-12-01 09:48  我欲成仙!  阅读(2)  评论(0)    收藏  举报