网络协议
数据报文和控制报文
集群节点之间传输两种类型的信息:数据信息和控制信息。数据信息包含由 "发送操作员"(包括 "FIN")发送的编码元组。控制信息用于协调作业运行。目前实现的控制信息类型如下
任务交付消息:任务被序列化并从协调器交付给执行器。
接收就绪信息:"接收操作符 "向相应的 "发送操作符 "发送信息,通知它们已正确启动并准备好接收数据信息。
下图展示了两个相互交换数据的任务之间的互动。
sequenceDiagram
participant R as Task with receive opertaor
participant S as Task with send operator
R ->> S: RCV_READY
loop Data transfer
S ->> R: Send tuples
end
S ->> R: Send FIN
序列化和反序列化
元组以 Avro 格式编码成数据信息。
任务以 JSON 格式编码。