广播变量

广播变量

广播变量将小样本的规则数据汇总到driver端并不是只能由workrer读取hdfs分区上数据在进行汇总的,可以直接由driver去读,也driver端去mysql读等等多种方式在driver端拿到广播数据。

driver端广播到对应application的executor上不是把整份数据一次性给到一个节点,然后让节点之间进行互相传播数据,而是传递给各个节点一部分数据,然后互相传递,以此让每个节点都拿到全部数据。

posted @ 2022-03-29 20:40  习惯了蓝  阅读(57)  评论(0)    收藏  举报