SplitAvro

文档中心 › 组件索引 › SplitAvro

SplitAvro Processor

类型全限定名:cn.org.acal.lynxus.processors.avro.SplitAvro

所属 Bundle:cn.org.acal.lynxus:lynxus-avro-nar:2.11.8

描述

根据配置的输出大小将二进制编码的 Avro 数据文件拆分为更小的文件。 输出策略确定较小的文件是 Avro 数据文件,还是 FlowFile 属性中包含元数据的裸 Avro 记录。 输出始终是二进制编码的。

标签

avrosplit

属性

下表中,加粗的属性为必填项;其余为可选项。表格同时标注默认值、是否支持表达式语言,以及是否为敏感属性(值会被加密)。

名称默认值可选值描述
Split StrategyRecord
  • Record — 在 Record 边界处拆分
分割传入数据文件的策略。 记录策略将通过反序列化每个记录来读取传入的数据文件。
Output Size1每个拆分文件中包含的 Avro 记录数。如果传入文件的记录数少于输出大小,或者总记录数不能被输出大小整除,则可能会得到记录数较少的拆分文件。
Output StrategyDatafile
  • Datafile — Avro 的对象容器文件格式
  • Bare Record — 裸 Avro 记录
确定输出的格式。可以是 Avro 数据文件或裸记录。裸记录输出仅用于已需要它的系统,正常使用不需要。
Transfer Metadatatrue
  • true
  • false
是否将元数据从父数据文件传输到子文件。如果输出策略是裸记录,则元数据将存储为 FlowFile 属性,否则将存储在数据文件头中。

关系 (Relationships)

名称描述自动终止
failure如果 FlowFile 因任何原因处理失败(例如,FlowFile 不是有效的 Avro),它将被路由到此关系否
original被拆分的原始 FlowFile。如果 FlowFile 处理失败,不会向此关系发送任何内容否
split从原始 FlowFile 拆分出来的所有新文件都将路由到此关系否

写入的 FlowFile 属性

名称描述
fragment.identifier从同一父 FlowFile 生成的所有拆分 FlowFile 都将为此属性添加相同的随机生成的 UUID
fragment.index一个单数,指示从单个父 FlowFile 创建的分割 FlowFile 的顺序
fragment.count从父FlowFile生成的分割FlowFile的数量
segment.original.filename 父FlowFile的文件名

状态管理

该组件不存储状态。

受限 (Restricted)

该组件不受限。

输入要求

该组件要求有传入连接。

系统资源考量

资源描述
MEMORYAn instance of this component can cause high usage of this system resource. Multiple instances or high concurrency settings may result a degradation of performance.