ConsumeAzureEventHub 2025.5.31.15¶
捆绑包¶
org.apache.nifi | nifi-azure-nar
描述¶
通过检查点接收来自 Microsoft Azure 事件中心的消息,以确保事件处理的一致性。检查点跟踪可避免多次使用一条消息,并且可以在出现间歇性网络故障时实现可靠恢复。检查点跟踪需要外部存储,是使用来自 Azure 事件中心的消息的首选方法。在集群环境中,ConsumeAzureEventHub 处理器实例形成一个使用者组,消息分布在群集节点之间(每条消息仅在一个群集节点上处理)。
输入要求¶
FORBIDDEN
支持敏感的动态属性¶
false
属性¶
属性 |
描述 |
---|---|
服务总线端点 |
用于支持非默认 windows.net 域的命名空间。 |
传输类型 |
用于与 Azure 事件中心通信的高级消息队列协议传输类型 |
checkpoint-strategy |
指定使用哪种策略存储和检索每个分区的分区所有权和检查点信息。 |
event-hub-batch-size |
NiFi 会话中要处理的消息数量。此参数影响吞吐量和一致性。NiFi 处理此数量的消息后,提交其会话和事件中心检查点。如果 NiFi 会话已提交,但未能创建事件中心检查点,则可能会再次收到相同的消息。数量越大,吞吐量越高,但一致性可能降低。 |
event-hub-consumer-group |
要使用的使用者组的名称。 |
event-hub-initial-offset |
如果检查点存储中尚未保存偏移量,请指定从何处开始接收消息。 |
event-hub-message-receive-timeout |
该使用者在返回之前应等待接收批量消息的超时时间。 |
event-hub-name |
要从中提取消息的事件中心的名称。 |
event-hub-namespace |
Azure 事件中心分配的命名空间。这通常等于 <Event Hub Names>-ns。 |
event-hub-prefetch-count |
|
event-hub-shared-access-policy-name |
共享访问策略的名称。此策略必须拥有 Listen 权限。 |
event-hub-shared-access-policy-primary-key |
共享访问策略的键。可以使用主键或辅助键。 |
proxy-configuration-service |
指定代理配置控制器服务来代理网络请求。 |
record-reader |
用于读取收到的消息的记录读取器。表达式语言“${eventhub.name}”可以引用事件中心名称来访问架构。 |
record-writer |
用于将记录序列到为输出 FlowFile 的记录写入器。表达式语言“${eventhub.name}”可以引用事件中心名称来访问架构。如果未指定,则每条消息将创建一个 FlowFile。 |
storage-account-key |
用于存储事件中心使用者组状态的 Azure 存储账户键。 |
storage-account-name |
用于存储事件中心使用者组状态的 Azure 存储账户的名称。 |
storage-container-name |
用于存储事件中心使用者组状态的 Azure 存储容器的名称。如果未指定,则使用事件中心名称。 |
storage-sas-token |
用于存储事件中心使用者组状态的 Azure 存储 SAS 令牌。总是以 ? 字符开头。 |
use-managed-identity |
选择是否使用 Azure VM/VMSS 的托管身份 |
状态管理¶
范围 |
描述 |
---|---|
CLUSTER |
本地状态用于存储客户端 ID。当组件状态配置为检查点策略时,集群状态用于存储分区所有权和检查点信息。 |
LOCAL |
本地状态用于存储客户端 ID。当组件状态配置为检查点策略时,集群状态用于存储分区所有权和检查点信息。 |
关系¶
名称 |
描述 |
---|---|
success |
从事件中心收到的 FlowFiles。 |
写入属性¶
名称 |
描述 |
---|---|
eventhub.enqueued.timestamp |
消息在事件中心排队的时间(以纪元以来的毫秒为单位,UTC) |
eventhub.offset |
存储消息的分区的偏移量 |
eventhub.sequence |
与消息相关的序列号 |
eventhub.name |
从中提取消息的事件中心的名称 |
eventhub.partition |
从中提取消息的分区的名称 |
eventhub.property.* |
此消息的应用程序属性。IE:“application”将表示为“属性” |