会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
leexiao
博客园
首页
新随笔
联系
订阅
管理
1
2
下一页
2024年3月29日
8 在IPython Notebook 运行Python Spark 程序
摘要: 8.1安装Anaconda 下载:wget https://mirrors.pku.edu.cn/anaconda/archive/Anaconda3-2021.05-Linux-x86_64.sh 安装:bash Anaconda3-2021.05-Linux-x86_64.sh -b 编辑~/.
阅读全文
posted @ 2024-03-29 17:30 Miburo
阅读(265)
评论(0)
推荐(0)
2024年3月28日
7.Python Spark安装
摘要: 7.1Scla安装 下载:wget https://scala-lang.org/files/archive/scala-2.13.0.tgz 解压:tar xvf scala-2.13.0.tgz 移动到/usr/local 目录 :sudo mv scala-2.13.0 /usr/local/
阅读全文
posted @ 2024-03-28 22:51 Miburo
阅读(107)
评论(0)
推荐(0)
6.Hadoop MapReduce
摘要: 6.1编辑WordCount.java 创建wordcount测试目录 编辑WordCount.java 输入下面代码: 可以访问https://hadoop.apache.org/docs/current/hadoop-mapreduce-client/hadoop-mapreduce-clien
阅读全文
posted @ 2024-03-28 20:02 Miburo
阅读(47)
评论(0)
推荐(0)
5.Hadoop HDFS 命令
摘要: 5.1 启动Hadoop Muti-Node Cluster start-all.sh 5.2创建与查看HDFS目录 创建user目录:hadoop fs -mkdir /user 创建user下hduser子目录:hadoop fs -mkdir /user/hduser 创建hduser下tes
阅读全文
posted @ 2024-03-28 18:30 Miburo
阅读(91)
评论(0)
推荐(0)
2024年3月27日
3.Hadoop Single Node Cluster安装
摘要: 3.1安装JDK java --version 查看java版本,出现下面信息代表未安装。 输入命令 sudo apt-get update 更新软件包信息。 sudo apt-get install defult-jdk 下载jdk,出现提示按y。 再次查看jdk版本。 输入update-alte
阅读全文
posted @ 2024-03-27 15:26 Miburo
阅读(99)
评论(0)
推荐(0)
2024年3月26日
2. Ubuntu Linux 操作系统安装
摘要: 2.1 下载Ubuntu iso文件(可以选择镜像源),版本 24.04.4。 2.2 设置虚拟光盘文件。 2.3 安装Ubuntu. 启动虚拟机。 选择语言中文简体,安装Ubuntu 键盘布局选择English(US) 点击继续,清理整个磁盘并安装Ubuntun,时间选择pei-ching 设置计
阅读全文
posted @ 2024-03-26 22:09 Miburo
阅读(119)
评论(0)
推荐(0)
1.VirtualBox虚拟机软件的安装
摘要: 1.1 下载安装VirtualBox 进入VirtualBox官网下载安装(www.virtualbox.org/wiki/Downloads) 1.2 设置VirtualBox默认存储文件夹。 点击 管理 >> 全局设定 >> 默认虚拟电脑位置,把默认位置修改为你想要放的位置。 1.3 在Virt
阅读全文
posted @ 2024-03-26 19:19 Miburo
阅读(156)
评论(0)
推荐(0)
0.Python+Spark+Hadoop 机器学习与大数据技术
摘要: 记录Python+Spark+Hadoop 机器学习与大数据技术实战 环境配置与学习过程。参考书目:《Python+Spark 2.0+Hadoop机器学习与大数据实战》
阅读全文
posted @ 2024-03-26 18:51 Miburo
阅读(47)
评论(0)
推荐(0)
2024年3月25日
9.RDD基本操作
摘要: intRDD = sc.parallelize([3, 1, 2, 5, 5]) intRDD.collect() [3, 1, 2, 5, 5] stringRDD = sc.parallelize(["Apple", "Orange", "Banana", "Grape", "Apple"])
阅读全文
posted @ 2024-03-25 22:52 Miburo
阅读(137)
评论(0)
推荐(0)
2024年3月21日
数学
摘要: 组合数 ll inv[N],inc[N]; void init(){ inc[0]=1; for(int i=1;i<=N;i++){ inc[i]=inc[i-1]*i % mod; } inv[0]=1; for(int i=1;i<=N;i++){ inv[i]=powmod(inc[i],m
阅读全文
posted @ 2024-03-21 21:33 Miburo
阅读(14)
评论(0)
推荐(0)
1
2
下一页
公告