Fabric1.4源码解析: 链码容器启动过程

想写点东西记录一下最近看的一些Fabric源码,本文使用的是fabric1.4的版本,所以对于其他版本的fabric,内容可能会有所不同。
本文想针对Fabric中链码容器的启动过程进行源码的解析。这里的链码指的是用户链码不是系统链码,顺便回顾一下系统链码:
lscc(Life Cycle System ChainCode)生命周期系统链码
cscc(Configuration System ChainCode)配置系统链码
escc(Endorser System ChainCode)背书系统链码
qscc(Query System ChainCode)查询系统链码
vscc(Verification System ChainCode)验证系统链码
本文主要解析的是用户链码的启动过程。

1 起点

#这是用户端链码的main方法,也是整个流程的入口点,调用了shim包中的Start(cc Chaincode)方法.
func main(){
    err :=shim.Start(new(Chaincode))
    if err != nil {
        fmt.Printf("Error starting Chaincode: %s",err)
    }
}

首先定位到fabric/core/chaincode/shim/chaincode.go这个文件中的Start方法,这里是链码启动的起点。
可以看到传的参数就是chaincode,接下来分析一下启动过程

#方法中第一行代码,根据名字可以看出是对链码的Log进行设置
SetupChaincodeLogging()
#从输入中获取用户定义的链码的名称
chaincodename := viper.GetString("chaincode.id.name")
#如果没有输入链码名称,直接返回没有提供链码id的错误,下面则不再执行
if chaincodename == "" {
    return errors.New("error chaincode id not provided")
}
#看名字是一个工厂方法,点进行看一下
err := factory.InitFactories(factory.GetDefaultOpts())

首先进入到factory.GetDefaultOpts()方法中:

func GetDefaultOpts() *FactoryOpts {
    return &FactoryOpts{
        ProviderName: "SW",
        SwOpts: &SwOpts{
            HashFamily: "SHA2",   #HASH类型
            SecLevel:   256,    #HASH级别

            Ephemeral: true,
        },
    }
}
#可以猜到这个方法是获取默认的加密操作,使用SHA256进行数据加密

不难猜到factory.InitFactories这个方法就是为当前链码设置加密操作的一系列内容。回到Start()方法中接着往下看.

#这一部分就是将链码数据以流的方式读取进来,userChaincodeStreamGetter是一个方法,点进去看一下
if streamGetter == nil {
    streamGetter = userChaincodeStreamGetter
}
stream, err := streamGetter(chaincodename)
if err != nil {
    return err
}

userChaincodeStreamGetter还是在这个文件中第82行:

#这里的name是链码名称,读取到链码数据后以PeerChainCodeStream的方式返回
func userChaincodeStreamGetter(name string) (PeerChaincodeStream, error) {
    #获取peer.address
    flag.StringVar(&peerAddress, "peer.address", "", "peer address")
    //判断是否使能TLS
    if viper.GetBool("peer.tls.enabled") {
        #获取tls密钥地址,在用户安装链码的时候指定 
        keyPath := viper.GetString("tls.client.key.path")
        #获取tls证书地址
        certPath := viper.GetString("tls.client.cert.path")
        #从文件中读取密钥数据
        data, err1 := ioutil.ReadFile(keyPath)
        if err1 != nil {
            err1 = errors.Wrap(err1, fmt.Sprintf("error trying to read file content %s", keyPath))
            chaincodeLogger.Errorf("%+v", err1)
            return nil, err1
        }
        key = string(data)
         #从文件中读取证书数据
        data, err1 = ioutil.ReadFile(certPath)
        if err1 != nil {
            err1 = errors.Wrap(err1, fmt.Sprintf("error trying to read file content %s", certPath))
            chaincodeLogger.Errorf("%+v", err1)
            return nil, err1
        }
        cert = string(data)
    }
    #解析命令行参数到定义的flag
    flag.Parse()
    #日志输出
    chaincodeLogger.Debugf("Peer address: %s", getPeerAddress())

    //与peer节点建立连接
    clientConn, err := newPeerClientConnection()

看一下这个方法里面的内容,还是这个文件第317行:

func newPeerClientConnection() (*grpc.ClientConn, error) {
    #首先获取到peer节点的地址
    var peerAddress = getPeerAddress()
    #看名字就知道了,设置与链码之间的心中信息
    kaOpts := &comm.KeepaliveOptions{
        ClientInterval: time.Duration(1) * time.Minute,
        ClientTimeout:  time.Duration(20) * time.Second,
    }

判断是否使能了TLS,然后根据结果建立链接,如何建立链接就不再细看了,我们回到之前的部分

    if viper.GetBool("peer.tls.enabled") {
        return comm.NewClientConnectionWithAddress(peerAddress, true, true,
            comm.InitTLSForShim(key, cert), kaOpts)
    }
    return comm.NewClientConnectionWithAddress(peerAddress, true, false, nil, kaOpts)
}

还是之前的userChaincodeStreamGetter方法

clientConn, err := newPeerClientConnection()
    if err != nil {
        err = errors.Wrap(err, "error trying to connect to local peer")
        chaincodeLogger.Errorf("%+v", err)
        return nil, err
    }

    chaincodeLogger.Debugf("os.Args returns: %s", os.Args)

    #接下来是这个方法,返回一个ChaincodeSupportClient实例,对应着链码容器
    chaincodeSupportClient := pb.NewChaincodeSupportClient(clientConn)

    //这一步是与peer节点建立gRPC连接
    stream, err := chaincodeSupportClient.Register(context.Background())
    if err != nil {
        return nil, errors.WithMessage(err, fmt.Sprintf("error chatting with leader at address=%s", getPeerAddress()))
    }

    return stream, nil
}

这个方法结束之后,链码容器与Peer节点已经建立起了连接,接下来链码容器与Peer节点开始互相发送消息了。
返回到Start()方法中,还剩最后的一个方法chatWithPeer()

    err = chatWithPeer(chaincodename, stream, cc)
    return err
}

看一下链码容器与Peer节点是如何互相通信的。这个方法是链码容器启动的过程中最重要的方法,包含所有的通信流程。chatWithPeer()在331行:

func chatWithPeer(chaincodename string, stream PeerChaincodeStream, cc Chaincode)
#传入的参数有链码名称,流(这个是之前链码容器与Peer节点建立gRPC连接所返回的),链码

首先第一步是新建一个ChaincodeHandler对象:是非常重要的一个对象。看一下该对象的内容,在core/chaincode/shim/handler.go文件中第166行:

func newChaincodeHandler(peerChatStream PeerChaincodeStream, chaincode Chaincode) *Handler {
    v := &Handler{
        ChatStream: peerChatStream,   #与Peer节点通信的流
        cc:         chaincode,      #链码
    }
    v.responseChannel = make(map[string]chan pb.ChaincodeMessage)  #链码信息响应通道
    v.state = created     #表示将链码容器的状态更改为created
    return v    将handler返回
}

这个ChaincodeHandler对象是链码侧完成链码与Peer节点之前所有的消息的控制逻辑。
继续往下看:

#在方法执行结束的时候关闭gRPC连接
defer stream.CloseSend()
#获取链码名称
chaincodeID := &pb.ChaincodeID{Name: chaincodename}
#将获取的链码名称序列化为有效载荷.
payload, err := proto.Marshal(chaincodeID)
if err != nil {
    return errors.Wrap(err, "error marshalling chaincodeID during chaincode registration")
}
#日志输出,这个日志信息在安装链码的时候应该有看到过吧
chaincodeLogger.Debugf("Registering.. sending %s", pb.ChaincodeMessage_REGISTER)
#链码容器通过handler开始通过gRPC连接向Peer节点发送第一个消息了,链码容器向Peer节点发送REGISTER消息,并附上链码的名称
if err = handler.serialSend(&pb.ChaincodeMessage{Type: pb.ChaincodeMessage_REGISTER, Payload: payload}); err != nil {
        return errors.WithMessage(err, "error sending chaincode REGISTER")
    }
#定义一个接收消息的结构体
type recvMsg struct {
    msg *pb.ChaincodeMessage
    err error
}
msgAvail := make(chan *recvMsg, 1)
errc := make(chan error)

receiveMessage := func() {
    in, err := stream.Recv()
    msgAvail <- &recvMsg{in, err}
}
#接收由Peer节点返回的响应消息
go receiveMessage()

接下来的部分就是链码容器与Peer节点详细的通信过程了:

2链码侧向Peer节点发送REGISTER消息

#前面的部分都是接收到错误消息的各种输出逻辑,不再细看,我们看default这一部分,这一部分是正常情况下消息的处理情况:
for {
        select {
        case rmsg := <-msgAvail:
            switch {
            case rmsg.err == io.EOF:
                err = errors.Wrapf(rmsg.err, "received EOF, ending chaincode stream")
                chaincodeLogger.Debugf("%+v", err)
                return err
            case rmsg.err != nil:
                err := errors.Wrap(rmsg.err, "receive failed")
                chaincodeLogger.Errorf("Received error from server, ending chaincode stream: %+v", err)
                return err
            case rmsg.msg == nil:
                err := errors.New("received nil message, ending chaincode stream")
                chaincodeLogger.Debugf("%+v", err)
                return err
            default:
            #这一句日志输出应该看到过好多次吧。
                chaincodeLogger.Debugf("[%s]Received message %s from peer", shorttxid(rmsg.msg.Txid), rmsg.msg.Type)
                #重要的一个方法,在链码容器与Peer节点建立起了联系后,主要通过该方法对消息逻辑进行处理,我们点进行看一下。
                err := handler.handleMessage(rmsg.msg, errc)
                if err != nil {
                    err = errors.WithMessage(err, "error handling message")
                    return err
                }
                #当消息处理完成后,再次接收消息。
                go receiveMessage()
            }
        #最后是发送失败的处理
        case sendErr := <-errc:
            if sendErr != nil {
                err := errors.Wrap(sendErr, "error sending")
                return err
            }
        }
    }

一个重要的方法:handleMessagecore/chaincode/shim/handler.go文件第801行:

func (handler *Handler) handleMessage(msg *pb.ChaincodeMessage, errc chan error) error {
    #如果链码容器接收到Peer节点发送的心跳消息后,直接将心跳消息返回,双方就一直保持联系。
    if msg.Type == pb.ChaincodeMessage_KEEPALIVE {
        chaincodeLogger.Debug("Sending KEEPALIVE response")
        handler.serialSendAsync(msg, nil) // ignore errors, maybe next KEEPALIVE will work
        return nil
    }
    #我们先看到这里,如果再往下看的话可能会乱掉,所以还是按照逻辑顺序进行说明。

先说一下链码侧所做的工作:

  • 首先进行各项基本配置,然后建立起与Peer节点的gRPC连接。
  • 创建Handler,并更改Handler状态为created
  • 发送REGISTER消息到Peer节点。
  • 等待Peer节点返回的信息

3Peer节点接收到REGISTER消息后

之前讲的都是链码侧的一系列流程,我们之前提到链码侧与Peer节点之间的第一个消息内容是由链码侧发送至Peer节点的REGISTER消息。接下来我们看一下Peer节点在接收到该消息后是如果进行处理的。
代码在core/chaincode/handler.go文件中第174行,这里不是处理消息的开始,但是对于我们要说的链码容器启动过程中消息的处理刚好衔接上,所以就直接从这里开始了。另外很重要的一点,这里已经转换到Peer节点侧了,不是之前说的链码侧,我们看一下代码:

func (h *Handler) handleMessage(msg *pb.ChaincodeMessage) error {
    chaincodeLogger.Debugf("[%s] Fabric side handling ChaincodeMessage of type: %s in state %s", shorttxid(msg.Txid), msg.Type, h.state)
    #这边也是首先判断是不是心跳信息,如果是心跳信息的话就什么也不做,与之前不同的是链码侧在收到心跳信息后会返回Peer节点一个心跳信息。
    if msg.Type == pb.ChaincodeMessage_KEEPALIVE {
        return nil
    }
    #之前我们提到,创建handler时,更改状态为created,所以这里进入到handleMessageCreatedState这个方法内.
    switch h.state {
    case Created:
        return h.handleMessageCreatedState(msg)
    case Ready:
        return h.handleMessageReadyState(msg)
    default:
        return errors.Errorf("handle message: invalid state %s for transaction %s", h.state, msg.Txid)
    }
}

handleMessageCreatedState这个方法在第191行,方法内容很简单,判断消息类型是不是REGISTER,如果是则进入HandlerRegister(msg)方法内,如果不是则返回错误信息。

func (h *Handler) handleMessageCreatedState(msg *pb.ChaincodeMessage) error {
    switch msg.Type {
    case pb.ChaincodeMessage_REGISTER:
        h.HandleRegister(msg)
    default:
        return fmt.Errorf("[%s] Fabric side handler cannot handle message (%s) while in created state", msg.Txid, msg.Type)
    }
    return nil
}

接下来我们看一下HandleRegister这个方法,在第495行:

func (h *Handler) HandleRegister(msg *pb.ChaincodeMessage) {
    chaincodeLogger.Debugf("Received %s in state %s", msg.Type, h.state)
    #获取链码ID
    chaincodeID := &pb.ChaincodeID{}
    #反序列化
    err := proto.Unmarshal(msg.Payload, chaincodeID)
    if err != nil {
        chaincodeLogger.Errorf("Error in received %s, could NOT unmarshal registration info: %s", pb.ChaincodeMessage_REGISTER, err)
        return
    }

    h.chaincodeID = chaincodeID
    #这一行就是将链码注册到当前Peer节点上
    err = h.Registry.Register(h)
    if err != nil {
        h.notifyRegistry(err)
        return
    }

    从Peer节点侧的handler获取链码名称
    h.ccInstance = ParseName(h.chaincodeID.Name)

    chaincodeLogger.Debugf("Got %s for chaincodeID = %s, sending back %s", pb.ChaincodeMessage_REGISTER, chaincodeID, pb.ChaincodeMessage_REGISTERED)
    #然后将REGISTERED消息返回给链码侧
    if err := h.serialSend(&pb.ChaincodeMessage{Type: pb.ChaincodeMessage_REGISTERED}); err != nil {
        chaincodeLogger.Errorf("error sending %s: %s", pb.ChaincodeMessage_REGISTERED, err)
        h.notifyRegistry(err)
        return
    }

    //更新handler状态为Established
    h.state = Established

    chaincodeLogger.Debugf("Changed state to established for %+v", h.chaincodeID)

    #还有这个方法也要看一下
    h.notifyRegistry(nil)
}

简单来说HandleRegister的功能就是将链码注册到Peer节点上,并发送RESIGSERED到链码侧,最后更新handler状态为Established,我们看一下notifyRegistry方法,在478行:

func (h *Handler) notifyRegistry(err error) {
    if err == nil {
        //再往里面看,方法在459行
        err = h.sendReady()
    }

    if err != nil {
        h.Registry.Failed(h.chaincodeID.Name, err)
        chaincodeLogger.Errorf("failed to start %s", h.chaincodeID)
        return
    }

    h.Registry.Ready(h.chaincodeID.Name)
}
#sendReady()
func (h *Handler) sendReady() error {
    chaincodeLogger.Debugf("sending READY for chaincode %+v", h.chaincodeID)
    ccMsg := &pb.ChaincodeMessage{Type: pb.ChaincodeMessage_READY}

    #Peer节点又向链码容器发送了READY消息
    if err := h.serialSend(ccMsg); err != nil {
        chaincodeLogger.Errorf("error sending READY (%s) for chaincode %+v", err, h.chaincodeID)
        return err
    }
    #同时更新handler状态为Ready
    h.state = Ready

    chaincodeLogger.Debugf("Changed to state ready for chaincode %+v", h.chaincodeID)

    return nil
}

到这里,Peer节点暂时分析完成,又到了链码侧对Peer节点发送的消息进行处理的流程.
我们先总结一下这一部分Peer节点做了哪些工作:

  • 首先当Peer节点接收到链码侧发送的REGISTER消息后,将链码注册到Peer端的Handler上,发送REGISTERED到链码侧,更新Handler的状态为Established
  • 然后Peer节点向链码侧发送READY消息,同时更新Handler的状态为Ready

4链码侧的回应

我们回到链码侧之前的这一部分core/chaincode/chaincode.go中第364行,这里是链码铡对接收到的Peer节点发送的消息进行处理的逻辑,至于发生错误的情况就不再说明,我们看handleMessage这个方法。

go receiveMessage()
    for {
           #相关代码
        ...
        err := handler.handleMessage(rmsg.msg, errc)
        ...
            #相关代码
                go receiveMessage()
    }

handleMessage这个方法在core/chaincode/shim/handler.go这个文件中,第801行。

#主要就是这一部分:
switch handler.state {
    case ready:
        err = handler.handleReady(msg, errc)
    case established:
        err = handler.handleEstablished(msg, errc)
    case created:
        err = handler.handleCreated(msg, errc)
    default:
        err = errors.Errorf("[%s] Chaincode handler cannot handle message (%s) with payload size (%d) while in state: %s", msg.Txid, msg.Type, len(msg.Payload), handler.state)
}
  • 首先链码侧接收到Peer节点发送的REGISTERED消息后,这里链码侧的handler与Peer节点侧的handler并不是同一个,不要搞混了。判断当前链码侧handler的状态为created,进入到handleCreated方法中,在792行:
#将链码侧的handler的状态更改为established
if msg.Type == pb.ChaincodeMessage_REGISTERED {
    handler.state = established
    return nil
}
  • 当链码侧接收到Peer节点发送的READY消息后,又一次进入上面的逻辑,由于链码侧的handler的状态已经更改为established,所以这次进入到handleEstablished方法中。在783行:
#然后将链码侧的handler的状态更改为ready
if msg.Type == pb.ChaincodeMessage_READY {
    handler.state = ready
    return nil
}
  • 另外,当用户对链码进行实例化操作时,会通过Peer节点向链码侧发送INIT消息,这里涉及到背书过程,之后再对背书过程进行讨论,我们在这里只关注链码侧接收到INIT消息后的逻辑,还是handleMessage这个方法中:
#当判断到消息类型为INIT时,会执行这个方法。
handler.handleInit(msg, errc)

handler.handleInit(msg, errc)方法在第177行:

func (handler *Handler) handleInit(msg *pb.ChaincodeMessage, errc chan error) {
    go func() {
        var nextStateMsg *pb.ChaincodeMessage

        defer func() {
            #这一名相当于更新链码的状态
            handler.triggerNextState(nextStateMsg, errc)
        }()
        #判断错误信息
        errFunc := func(err error, payload []byte, ce *pb.ChaincodeEvent, errFmt string, args ...interface{}) *pb.ChaincodeMessage {
            if err != nil {
                // Send ERROR message to chaincode support and change state
                if payload == nil {
                    payload = []byte(err.Error())
                }
                chaincodeLogger.Errorf(errFmt, args...)
                return &pb.ChaincodeMessage{Type: pb.ChaincodeMessage_ERROR, Payload: payload, Txid: msg.Txid, ChaincodeEvent: ce, ChannelId: msg.ChannelId}
            }
            return nil
        }
        #获取用户输入的参数
        input := &pb.ChaincodeInput{}
        #反序列化
        unmarshalErr := proto.Unmarshal(msg.Payload, input)
        if nextStateMsg = errFunc(unmarshalErr, nil, nil, "[%s] Incorrect payload format. Sending %s", shorttxid(msg.Txid), pb.ChaincodeMessage_ERROR.String()); nextStateMsg != nil {
            return
        }

        #ChaincodeStub应该很熟悉了,很重要的一个对象,包含一项提案中所需要的内容。在``core/chaincode/shim/chaincode.go``文件中第53行,有兴趣可以点进去看一下
        stub := new(ChaincodeStub)
        #这一行代码的意思就是将提案中的信息抽取出来赋值到ChaincodeStub这个对象中
       err := stub.init(handler, msg.ChannelId, msg.Txid, input, msg.Proposal)
       if nextStateMsg = errFunc(err, nil, stub.chaincodeEvent, "[%s] Init get error response. Sending %s", shorttxid(msg.Txid), pb.ChaincodeMessage_ERROR.String()); nextStateMsg != nil {
            return
       }
       #这里的Init方法就是链码中所写的Init()方法,就不再解释了
       res := handler.cc.Init(stub)
       chaincodeLogger.Debugf("[%s] Init get response status: %d", shorttxid(msg.Txid), res.Status)
        #ERROR的值为500,OK=200,ERRORTHRESHOLD = 400,大于等于400就代表错误信息或者被背书节点拒绝。
        if res.Status >= ERROR {
            err = errors.New(res.Message)
            if nextStateMsg = errFunc(err, []byte(res.Message), stub.chaincodeEvent, "[%s] Init get error response. Sending %s", shorttxid(msg.Txid), pb.ChaincodeMessage_ERROR.String()); nextStateMsg != nil {
                return
            }
        }
        resBytes, err := proto.Marshal(&res)
        if err != nil {
            payload := []byte(err.Error())
            chaincodeLogger.Errorf("[%s] Init marshal response error [%s]. Sending %s", shorttxid(msg.Txid), err, pb.ChaincodeMessage_ERROR)
            nextStateMsg = &pb.ChaincodeMessage{Type: pb.ChaincodeMessage_ERROR, Payload: payload, Txid: msg.Txid, ChaincodeEvent: stub.chaincodeEvent}
            return
        }

        // Send COMPLETED message to chaincode support and change state
        nextStateMsg = &pb.ChaincodeMessage{Type: pb.ChaincodeMessage_COMPLETED, Payload: resBytes, Txid: msg.Txid, ChaincodeEvent: stub.chaincodeEvent, ChannelId: stub.ChannelId}
        chaincodeLogger.Debugf("[%s] Init succeeded. Sending %s", shorttxid(msg.Txid), pb.ChaincodeMessage_COMPLETED)
        #到这里就结束了,会调用上面的handler.triggerNextState(nextStateMsg, errc)方法,这个方法将初始化数据与COMPLETED状态发送至Peer节点。
    }()
} 

这个方法还是比较简单的,一共做了这些事情:

  • 获取用户的输入数据
  • 新建一个ChainCodeStub对象,然后将用户输入的数据赋值给该对象
  • 调用用户链码中的Init()方法
  • 将所有数据封装成ChainCodeMessage,类型为COMPLETED,发送至Peer节点。

这个时候链码已经初始化完成,已经进入了可被调用(invoke)的状态.
之后的流程就差不多了,Peer节点发送TRANSACTION消息给链码侧,调用Invoke()方法,之后链码侧发送具体的调用方法到Peer节点,由Peer节点进行相应的处理,最后返回RESPONSE消息到链码侧,链码侧接收到RESPONSE消息后,返回COMPLETED消息到Peer节点。

5总结

到这里,Peer节点与链码侧的handler都处于READY状态,链码容器已经启动完成。最后总结一下整体的流程:

  1. 通过用户端链码中的main方法,调用了core/chaincode/shim/chaincode.go中的Start()方法,从而开始了链码的启动。
  2. 首先进行相关的配置比如基本的加密,证书的读取。
  3. 创建与Peer节点之间的gRPC连接,创建handler实例。
  4. 由链码容器向Peer节点发送第一个消息:REGISTER,然后等待接收由Peer节点发送的消息。如果接收到的是心跳消息,则向Peer节点返回心跳消息。
  5. Peer节点接收到链码容器发送的REGISTER消息后,将其注册到Peer节点端的handler上。
  6. Peer节点发送REGISTERED消息到链码侧,同时更新Peer节点端的handler状态为Established
  7. Peer节点发送Ready消息到链码侧,同时更新Peer节点端的handler状态为Ready
  8. 链码侧接收到由Peer节点发送的REGISTERED消息后,更新链码侧的handler状态为Established
  9. 链码侧接收到由Peer节点发送的READY消息后,更新链码侧的handler状态为ready
  10. 当用户执行实例化链码时,通过Peer节点向链码侧发送INIT消息。链码侧接收到INIT消息后,根据用户输入的参数进行实例化操作。实例化完成后,返回COMPLETED消息到Peer节点。
  11. 到这里链码容器已经启动,可以对链码数据进行查询调用等操作了。

另外,阅读Fabric源码中有一些没有看明白或者分析有误的地方,还望大家能够批评指正。

最后附上参考文档:传送门
以及Fabric源码地址:传送门

posted @ 2019-06-23 14:26 触不可及` 阅读(...) 评论(...) 编辑 收藏