会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
mashuai 的博客(base成都)
学习,记录,并祝愿家人都健康平安
博客园
首页
新随笔
联系
订阅
管理
上一页
1
···
10
11
12
13
14
15
16
17
18
···
24
下一页
2020年6月5日
spark 中时间和日期 操作,怎么找到前几天后几天
摘要: 1. timestamp 增加减少一个 time delta df.withColumn("added_hours",col("input_timestamp") + expr("INTERVAL 2 HOURS")) .withColumn("added_minutes",col("input_t
阅读全文
posted @ 2020-06-05 10:40 mashuai_191
阅读(1121)
评论(0)
推荐(0)
2020年5月21日
docker with GPU support
摘要: 自己总结的: nvidia-docker, 不支持windows,2019.10, nvidia-docker过时了,从docker 1903开始,安装一个nvidia-container-runtime就行了, --gpus2020.12, docker 好像可以直接在wsl2里面跑了, 需要wi
阅读全文
posted @ 2020-05-21 18:00 mashuai_191
阅读(472)
评论(0)
推荐(0)
2020年5月19日
spark 中怎么像 pandas 里面对时间数据做 resample
摘要: 1. 笨办法 pandas Dataframe 可以很容易做时序数据的 resample,按照一定的frequency 聚合数据. 但是spark 中因为没有顺序的概念就不太好做,下面是怎么在spark中做resample 的例子. def resample(column, agg_interval
阅读全文
posted @ 2020-05-19 11:25 mashuai_191
阅读(331)
评论(0)
推荐(0)
2020年5月17日
Coursera, Big Data 5, Graph Analytics for Big Data, Week 3
摘要: Graph Analytics 有哪些类型 node type (labels) node schema: attributes 组成了schema. 同样的, Edge也有 Edge Type 和Edge Schema 如果是一个完整的图,会包含以下信息 weight 权重,比如两点之间的 距离
阅读全文
posted @ 2020-05-17 22:32 mashuai_191
阅读(147)
评论(0)
推荐(0)
2020年5月15日
kafka 学习
摘要: 安装 quick start kafka 调参,我发现trigger.once 得到大概10w条数据,不知道这个数字怎么定出来的,可能是这里的参数决定的 https://stackoverflow.com/questions/51753883/increase-the-number-of-messa
阅读全文
posted @ 2020-05-15 10:45 mashuai_191
阅读(129)
评论(0)
推荐(0)
2020年5月14日
k8s 知识
摘要: 命令 Pod 管理 kubectl get pods 查看pod在哪个node上 kubectl get pods -o wide kubectl describe pod pod_name 创建新的pod, 如果直接用命令 kubectl run nginx -image nginx kubect
阅读全文
posted @ 2020-05-14 16:05 mashuai_191
阅读(106)
评论(0)
推荐(0)
2020年5月13日
Coursera, Big Data 5, Graph Analytics for Big Data, Week 1/2
摘要: Graph表示 1. adjacency matrix最简单的一种表示:行是From 列是To, 这种表示是稀疏矩阵 2. 另一种表示,如下图,很多graph数据库用这种,是的数据库操作更有效率 use cases: 其中 Use Case 3 Human Information Network里面
阅读全文
posted @ 2020-05-13 22:42 mashuai_191
阅读(137)
评论(0)
推荐(0)
2020年4月27日
Scala 学习
摘要: 安装并 hello world https://docs.scala-lang.org/getting-started/sbt-track/getting-started-with-scala-and-sbt-on-the-command-line.html https://towardsdatas
阅读全文
posted @ 2020-04-27 14:24 mashuai_191
阅读(101)
评论(0)
推荐(0)
2020年4月23日
Graph 学习
摘要: Graph basic terms 里面介绍了常见的一些基本概念,如 directed/undirected, weighted, cyclic/acyclic, Adjacency Matrix, Adjacency list... Ref: https://towardsdatascience.
阅读全文
posted @ 2020-04-23 13:43 mashuai_191
阅读(142)
评论(0)
推荐(0)
2020年4月15日
忘记 mysql 8.0 root 密码 怎么修改
摘要: 本文copy自 Centos7重置Mysql 8.0.1 root 密码 问题产生背景: 安装完 最新版的 mysql8.0.1后忘记了密码,向重置root密码;找了网上好多资料都不尽相同,根据自己的问题总结如下: 第一步:修改配置文件免密码登录mysql vim /etc/my.cnf 1.2 在
阅读全文
posted @ 2020-04-15 10:28 mashuai_191
阅读(902)
评论(0)
推荐(0)
上一页
1
···
10
11
12
13
14
15
16
17
18
···
24
下一页
公告