StandardOpenAILLMService¶

描述¶

提供与 OpenAI 的 Chat Completion API 集成的控制器服务。支持可配置的参数，包括模型选择、温度、top_p、最大令牌数和重试行为。处理 API 身份验证、使用指数退避的请求重试和错误处理。

ai、chat completion、chatgpt、large language model、llm、openai、openflow

下表列出了各项属性，其中带星号 (*) 的为必需属性。其他属性视为可选属性。该表还指出了所有默认值以及属性是否支持 NiFi 表达式语言。

显示名称	API 名称	默认值	描述
退避基本延迟 (ms) *	退避基本延迟 (ms)	1000	两次重试之间指数退避的基本延迟（以毫秒为单位）
最大响应令牌数	最大响应令牌数		在响应中生成的最大令牌数。
最大重试次数 *	最大重试次数	3	API 调用的最大重试次数
模型名称 *	模型名称	gpt-4o-mini	OpenAI 模型的名称。
OpenAI API 密钥 *	OpenAI API 密钥		用于对 OpenAI 进行身份验证的 API 密钥。
种子	种子		用于生成响应的种子
温度	温度		用于生成响应的温度。
前 P 值	前 P 值		核采样的 top_p 值。它用于控制生成的响应的多样性。
用户	用户		您的最终用户，已发送到 OpenAI 进行监控和检测滥用行为
Web 客户端服务 *	Web 客户端服务		用于与 LLM 提供商通信的 Web 客户端服务。

此组件不存储状态。

此组件不受限制。

此组件未指定系统资源注意事项。