Go之路（二十九）：kafka学习
Kafka
学习任何技术，跟学骑自行车一样，不要一开始只关注它的具体细节是什么。先学着怎么骑，骑着骑着就了解大致的原理，这个时候在去看它的原理，会很轻松。
所以，直接安装先让他跑起来再说。本人的电脑返厂了emmm，在网吧写的这个，懒得虚拟机了，直接windows上搞
详细文章：https://blog.csdn.net/liyiming2017/article/details/82805479
简单说明什么是kafka
Apache kafka是消息中间件的一种，我发现很多人不知道消息中间件是什么，在开始学习之前，我这边就先简单的解释一下什么是消息中间件，只是粗略的讲解，目前kafka已经可以做更多的事情。
举个例子，生产者消费者，生产者生产鸡蛋，消费者消费鸡蛋，生产者生产一个鸡蛋，消费者就消费一个鸡蛋，假设消费者消费鸡蛋的时候噎住了（系统宕机了），生产者还在生产鸡蛋，那新生产的鸡蛋就丢失了。再比如生产者很强劲（大交易量的情况），生产者1秒钟生产100个鸡蛋，消费者1秒钟只能吃50个鸡蛋，那要不了一会，消费者就吃不消了（消息堵塞，最终导致系统超时），消费者拒绝再吃了，”鸡蛋“又丢失了，这个时候我们放个篮子在它们中间，生产出来的鸡蛋都放到篮子里，消费者去篮子里拿鸡蛋，这样鸡蛋就不会丢失了，都在篮子里，而这个篮子就是”kafka“。
鸡蛋其实就是“数据流”，系统之间的交互都是通过“数据流”来传输的（就是tcp、http什么的），也称为报文，也叫“消息”。
消息队列满了，其实就是篮子满了，”鸡蛋“ 放不下了，那赶紧多放几个篮子，其实就是kafka的扩容。
各位现在知道kafka是干什么的了吧，它就是那个"篮子"。
安装kafka
a.安装jdk，从oracle下载
b.安装zookeeper:http://apache.fayea.com/zookeeper/
1)先修改配置文件的名称，为zoo.cfg (原来的配置文件在conf/zoo_sample.cfg)
2)编辑zoo.cfg，修改dataDir=D:\zookeeper-3.3.6\data\ (需要自行创建data目录)
3)运行bin\zkServer.cmd
c.下载kafka,http://kafka.apache.org/downloads.html
1)打开config目录下的server.properties， 修改log.dirs为D:\kafka_logs, 修改advertised.host.name=服务器ip (自己跑就127.0.0.1)
2）启动kafka ./bin/windows/kafka-server-start.bat ./config/server.preperties （如果报此时不应该有xxxx，需要注意就是文件名中有空格，把空格去掉或者换地方就解决了）
kafka名词解释
producer：生产者，就是它来生产“鸡蛋”的。consumer：消费者，生出的“鸡蛋”它来消费。topic：你把它理解为标签，生产者每生产出来一个鸡蛋就贴上一个标签（topic），消费者可不是谁生产的“鸡蛋”都吃的，这样不同的生产者生产出来的“鸡蛋”，消费者就可以选择性的“吃”了。broker：就是篮子了。
package main
import(
"time"
"github.com/Shopify/sarama"
)
func main() {
config := sarama.NewConfig()
config.Producer.RequiredAcks = sarama.WaitForAll
config.Producer.Partitioner = sarama.NewRandomPartitioner
config.Producer.Return.Successes = true
producer , _ := sarama.NewSyncProducer([]string{"127.0.0.1:9092"},config)
var a = "???"
for {
msg := &sarama.ProducerMessage{
Topic : "test",
Value: sarama.StringEncoder(a),
}
producer.SendMessage(msg)
time.Sleep(time.Second)
}
}
消费者：
package main
import(
"time"
"fmt"
"github.com/Shopify/sarama"
)
func main() {
consumer ,err :=sarama.NewConsumer([]string{"127.0.0.1:9092"}, nil)
if err != nil{
fmt.Printf("err:%v",err)
}
parititionlist ,err := consumer.Partitions("test")
for partitions := range parititionlist{
pc ,_ := consumer.ConsumePartition("test",int32(partitions),sarama.OffsetNewest)
go func(pc sarama.PartitionConsumer){
msg_chan := pc.Messages()
for msg := range msg_chan{
fmt.Printf("分区:%d,offset:%d,Ket:%s,Value:%s",msg.Partition,msg.Offset,string(msg.Key),string(msg.Value))
fmt.Println()
}
}(pc)
time.Sleep(time.Hour)
}
}
