StandardAnthropicLLMService¶
描述¶
一款控制器服务，可通过其消息 API 与 Anthropic 的 Claude AI 模型进行集成。支持可配置的参数，包括模型选择、响应生成设置（温度、top_p、top_k）、令牌限制和重试行为。
属性¶
下表列出了各项属性，其中带星号 (*) 的为必需属性。其他属性视为可选属性。该表还指出了所有默认值以及属性是否支持 NiFi 表达式语言。
显示名称 |
API 名称 |
默认值 |
允许值 |
描述 |
|---|---|---|---|---|
Anthropic API 密钥 * |
Anthropic API 密钥 |
用于对 Anthropic 进行身份验证的 API 密钥 |
||
退避基本延迟 (ms) * |
退避基本延迟 (ms) |
1000 |
两次重试之间指数退避的基本延迟（以毫秒为单位） |
|
最大响应令牌数 * |
最大响应令牌数 |
1000 |
在响应中生成的最大令牌数。 |
|
最大重试次数 * |
最大重试次数 |
3 |
API 调用的最大重试次数 |
|
模型名称 * |
模型名称 |
claude-3-5-sonnet-latest |
Anthropic 模型的名称 |
|
温度 |
温度 |
用于生成响应的温度。 |
||
前 K 值 |
前 K 值 |
用于生成响应的前 K 值。仅从每个后续令牌的前 K 个选项中抽样。仅推荐用于高级用例。通常只需要使用温度。 |
||
前 P 值 |
前 P 值 |
核采样的 top_p 值。它用于控制生成的响应的多样性。 |
||
用户 ID |
用户 ID |
要在请求元数据中设置的用户 ID |
||
Web 客户端服务 * |
Web 客户端服务 |
用于与 LLM 提供商通信的 Web 客户端服务。 |
状态管理¶
此组件不存储状态。
受限¶
此组件不受限制。
系统资源注意事项¶
此组件未指定系统资源注意事项。