ConsumeAzureEventHub 2025.5.31.15

捆绑包

org.apache.nifi | nifi-azure-nar

描述

通过检查点接收来自 Microsoft Azure 事件中心的消息,以确保事件处理的一致性。检查点跟踪可避免多次使用一条消息,并且可以在出现间歇性网络故障时实现可靠恢复。检查点跟踪需要外部存储,是使用来自 Azure 事件中心的消息的首选方法。在集群环境中,ConsumeAzureEventHub 处理器实例形成一个使用者组,消息分布在群集节点之间(每条消息仅在一个群集节点上处理)。

标签

azure、cloud、eventhub、events、microsoft、streaming、streams

输入要求

FORBIDDEN

支持敏感的动态属性

false

属性

属性

描述

服务总线端点

用于支持非默认 windows.net 域的命名空间。

传输类型

用于与 Azure 事件中心通信的高级消息队列协议传输类型

checkpoint-strategy

指定使用哪种策略存储和检索每个分区的分区所有权和检查点信息。

event-hub-batch-size

NiFi 会话中要处理的消息数量。此参数影响吞吐量和一致性。NiFi 处理此数量的消息后,提交其会话和事件中心检查点。如果 NiFi 会话已提交,但未能创建事件中心检查点,则可能会再次收到相同的消息。数量越大,吞吐量越高,但一致性可能降低。

event-hub-consumer-group

要使用的使用者组的名称。

event-hub-initial-offset

如果检查点存储中尚未保存偏移量,请指定从何处开始接收消息。

event-hub-message-receive-timeout

该使用者在返回之前应等待接收批量消息的超时时间。

event-hub-name

要从中提取消息的事件中心的名称。

event-hub-namespace

Azure 事件中心分配的命名空间。这通常等于 <Event Hub Names>-ns。

event-hub-prefetch-count

event-hub-shared-access-policy-name

共享访问策略的名称。此策略必须拥有 Listen 权限。

event-hub-shared-access-policy-primary-key

共享访问策略的键。可以使用主键或辅助键。

proxy-configuration-service

指定代理配置控制器服务来代理网络请求。

record-reader

用于读取收到的消息的记录读取器。表达式语言“${eventhub.name}”可以引用事件中心名称来访问架构。

record-writer

用于将记录序列到为输出 FlowFile 的记录写入器。表达式语言“${eventhub.name}”可以引用事件中心名称来访问架构。如果未指定,则每条消息将创建一个 FlowFile。

storage-account-key

用于存储事件中心使用者组状态的 Azure 存储账户键。

storage-account-name

用于存储事件中心使用者组状态的 Azure 存储账户的名称。

storage-container-name

用于存储事件中心使用者组状态的 Azure 存储容器的名称。如果未指定,则使用事件中心名称。

storage-sas-token

用于存储事件中心使用者组状态的 Azure 存储 SAS 令牌。总是以 ? 字符开头。

use-managed-identity

选择是否使用 Azure VM/VMSS 的托管身份

状态管理

范围

描述

CLUSTER

本地状态用于存储客户端 ID。当组件状态配置为检查点策略时,集群状态用于存储分区所有权和检查点信息。

LOCAL

本地状态用于存储客户端 ID。当组件状态配置为检查点策略时,集群状态用于存储分区所有权和检查点信息。

关系

名称

描述

success

从事件中心收到的 FlowFiles。

写入属性

名称

描述

eventhub.enqueued.timestamp

消息在事件中心排队的时间(以纪元以来的毫秒为单位,UTC)

eventhub.offset

存储消息的分区的偏移量

eventhub.sequence

与消息相关的序列号

eventhub.name

从中提取消息的事件中心的名称

eventhub.partition

从中提取消息的分区的名称

eventhub.property.*

此消息的应用程序属性。IE:“application”将表示为“属性”

语言: 中文