网络协议

数据报文和控制报文

集群节点之间传输两种类型的信息:数据信息和控制信息。数据信息包含由 "发送操作员"(包括 "FIN")发送的编码元组。控制信息用于协调作业运行。目前实现的控制信息类型如下

  1. 任务交付消息:任务被序列化并从协调器交付给执行器。

  2. 接收就绪信息:"接收操作符 "向相应的 "发送操作符 "发送信息,通知它们已正确启动并准备好接收数据信息。

下图展示了两个相互交换数据的任务之间的互动。

        sequenceDiagram
    participant R as Task with receive opertaor
    participant S as Task with send operator
    R ->> S: RCV_READY
    loop Data transfer
        S ->> R: Send tuples
    end
    S ->> R: Send FIN
    

序列化和反序列化

元组以 Avro 格式编码成数据信息。

任务以 JSON 格式编码。