ConsumeAzureEventHub Processor
描述
从 Microsoft Azure Event Hubs 接收消息并进行检查点跟踪以确保一致的事件处理。
标签
属性
| 名称 | 默认值 | 可选值 | 描述 |
|---|---|---|---|
| Event Hub Namespace | | Azure 事件中心分配到的Namespace。 这通常等于 <事件中心名称>-ns。 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Event Hub Name | | 要从中提取消息的事件中心的名称。 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Service Bus Endpoint | .servicebus.windows.net |
| 支持不在默认 windows.net 域中的Namespace。 |
| Transport Type | Amqp |
| 用于与 Azure 事件中心通信的高级消息队列协议传输类型 |
| Shared Access Policy Name | | 共享访问策略的名称。 该保单必须包含 Listen 声明。 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Shared Access Policy Key | | 共享访问策略的关键。 可以使用主键或辅助键。 敏感属性:是 | |
| Authentication Strategy | MANAGED_IDENTITY |
| 指定用于向 Azure 事件中心进行身份验证的策略 |
| Event Hubs Access Token Provider | | 控制器服务 API:OAuth2AccessTokenProvidercn.org.acal.lynxus-lynxus-standard-services-api-nar-2.11.8 | Controller Service提供 OAuth2 访问令牌以对 Azure 事件中心进行身份验证 |
| Event Hubs Identity Federation Token Provider | | 控制器服务 API:AzureIdentityFederationTokenProvidercn.org.acal.lynxus-lynxus-azure-services-api-nar-2.11.8 | 在向 Azure 事件中心进行身份验证时,Controller Service将工作负载身份令牌交换为 Azure AD 访问令牌。 |
| Consumer Group | $Default | 要使用的消费者组的名称。 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Record Reader | | 控制器服务 API:RecordReaderFactorycn.org.acal.lynxus-lynxus-standard-services-api-nar-2.11.8 | 用于读取接收消息的记录读取器。事件中心名称可以通过表达式语言 '${eventhub.name}' 引用来访问模式。 |
| Record Writer | | 控制器服务 API:RecordSetWriterFactorycn.org.acal.lynxus-lynxus-standard-services-api-nar-2.11.8 | 用于将记录序列化到输出 FlowFile 的记录写入器。事件中心名称可以通过表达式语言 '${eventhub.name}' 引用来访问模式。如果未指定,每条消息将作为单独的 FlowFile 写入。 |
| Initial Offset | end-of-stream |
| 指定如果偏移量尚未存储在检查点存储中则从何处开始接收消息。 |
| Prefetch Count | 300 | 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Batch Size | 10 | 在 Lynxus 会话中要处理的消息数。此参数影响吞吐量和一致性。Lynxus 在处理完此数量的消息后提交其会话和事件中心检查点 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Message Receive Timeout | 1 min | 该消费者在返回之前应等待接收批量大小的时间。 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Checkpoint Strategy | AZURE_BLOB_STORAGE |
| 指定使用哪种策略来存储和检索每个分区的分区所有权和检查点信息。 |
| Storage Account Name | | 用于存储事件中心使用者组状态的 Azure 存储帐户的名称。 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Storage Container Name | | 用于存储事件中心消费者组状态的 Azure 存储容器名称。如果未指定,则使用事件中心名称。 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Blob Storage Authentication Strategy | STORAGE_ACCOUNT_KEY |
| 用于在持久检查点时访问 Azure Blob 存储的身份验证策略。 |
| Storage Account Key | | 用于存储事件中心使用者组状态的 Azure 存储帐户密钥。 敏感属性:是 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Storage SAS Token | | 用于存储事件中心使用者组状态的 Azure 存储 SAS 令牌。 总是以 ? 开头 特点。 敏感属性:是 支持表达式语言:是(仅使用环境/系统变量求值) | |
| Storage Access Token Provider | | 控制器服务 API:OAuth2AccessTokenProvidercn.org.acal.lynxus-lynxus-standard-services-api-nar-2.11.8 | Controller Service提供 OAuth2 访问令牌,以便在保留检查点时向 Azure Blob 存储进行身份验证。 |
| Storage Identity Federation Token Provider | | 控制器服务 API:AzureIdentityFederationTokenProvidercn.org.acal.lynxus-lynxus-azure-services-api-nar-2.11.8 | 将身份联合与 Azure Blob 存储结合使用时,Controller Service将工作负载身份令牌交换为 Azure AD 访问令牌。 |
| Proxy Configuration Service | | 控制器服务 API:ProxyConfigurationServicecn.org.acal.lynxus-lynxus-standard-services-api-nar-2.11.8 | 指定代理配置 Controller Service 来代理网络请求。 |
关系 (Relationships)
| 名称 | 描述 | 自动终止 |
|---|---|---|
success | 从事件中心接收的FlowFile。 | 否 |
写入的 FlowFile 属性
| 名称 | 描述 |
|---|---|
eventhub.enqueued.timestamp | 消息在事件中心排队的时间(自纪元以来的毫秒数,UTC) |
eventhub.offset | 存储消息的分区的偏移量 |
eventhub.sequence | 与消息关联的序列号 |
eventhub.name | 从中提取消息的事件中心的名称 |
eventhub.partition | 从中提取消息的分区的名称 |
eventhub.property.* | 此消息的应用程序属性。 IE:“应用程序”将是“eventhub.property.application” |
状态管理
| 作用域 | 描述 |
|---|---|
| LOCAL、CLUSTER | 本地状态用于存储客户端 ID。当组件状态配置为检查点策略时,集群状态用于存储分区所有权和检查点信息。 |
受限 (Restricted)
该组件不受限。
输入要求
该组件不允许有传入连接。