上一页 1 ··· 10 11 12 13 14 15 16 17 18 ··· 24 下一页
摘要: 1. timestamp 增加减少一个 time delta df.withColumn("added_hours",col("input_timestamp") + expr("INTERVAL 2 HOURS")) .withColumn("added_minutes",col("input_t 阅读全文
posted @ 2020-06-05 10:40 mashuai_191 阅读(1121) 评论(0) 推荐(0)
摘要: 自己总结的: nvidia-docker, 不支持windows,2019.10, nvidia-docker过时了,从docker 1903开始,安装一个nvidia-container-runtime就行了, --gpus2020.12, docker 好像可以直接在wsl2里面跑了, 需要wi 阅读全文
posted @ 2020-05-21 18:00 mashuai_191 阅读(472) 评论(0) 推荐(0)
摘要: 1. 笨办法 pandas Dataframe 可以很容易做时序数据的 resample,按照一定的frequency 聚合数据. 但是spark 中因为没有顺序的概念就不太好做,下面是怎么在spark中做resample 的例子. def resample(column, agg_interval 阅读全文
posted @ 2020-05-19 11:25 mashuai_191 阅读(331) 评论(0) 推荐(0)
摘要: Graph Analytics 有哪些类型 node type (labels) node schema: attributes 组成了schema. 同样的, Edge也有 Edge Type 和Edge Schema 如果是一个完整的图,会包含以下信息 weight 权重,比如两点之间的 距离 阅读全文
posted @ 2020-05-17 22:32 mashuai_191 阅读(147) 评论(0) 推荐(0)
摘要: 安装 quick start kafka 调参,我发现trigger.once 得到大概10w条数据,不知道这个数字怎么定出来的,可能是这里的参数决定的 https://stackoverflow.com/questions/51753883/increase-the-number-of-messa 阅读全文
posted @ 2020-05-15 10:45 mashuai_191 阅读(129) 评论(0) 推荐(0)
摘要: 命令 Pod 管理 kubectl get pods 查看pod在哪个node上 kubectl get pods -o wide kubectl describe pod pod_name 创建新的pod, 如果直接用命令 kubectl run nginx -image nginx kubect 阅读全文
posted @ 2020-05-14 16:05 mashuai_191 阅读(106) 评论(0) 推荐(0)
摘要: Graph表示 1. adjacency matrix最简单的一种表示:行是From 列是To, 这种表示是稀疏矩阵 2. 另一种表示,如下图,很多graph数据库用这种,是的数据库操作更有效率 use cases: 其中 Use Case 3 Human Information Network里面 阅读全文
posted @ 2020-05-13 22:42 mashuai_191 阅读(137) 评论(0) 推荐(0)
摘要: 安装并 hello world https://docs.scala-lang.org/getting-started/sbt-track/getting-started-with-scala-and-sbt-on-the-command-line.html https://towardsdatas 阅读全文
posted @ 2020-04-27 14:24 mashuai_191 阅读(101) 评论(0) 推荐(0)
摘要: Graph basic terms 里面介绍了常见的一些基本概念,如 directed/undirected, weighted, cyclic/acyclic, Adjacency Matrix, Adjacency list... Ref: https://towardsdatascience. 阅读全文
posted @ 2020-04-23 13:43 mashuai_191 阅读(142) 评论(0) 推荐(0)
摘要: 本文copy自 Centos7重置Mysql 8.0.1 root 密码 问题产生背景: 安装完 最新版的 mysql8.0.1后忘记了密码,向重置root密码;找了网上好多资料都不尽相同,根据自己的问题总结如下: 第一步:修改配置文件免密码登录mysql vim /etc/my.cnf 1.2 在 阅读全文
posted @ 2020-04-15 10:28 mashuai_191 阅读(902) 评论(0) 推荐(0)
上一页 1 ··· 10 11 12 13 14 15 16 17 18 ··· 24 下一页