Snowpark Container Services：使用计算池¶

创建计算池¶

计算池是一种账户级结构，类似于 Snowflake 虚拟仓库。计算池的命名范围是账户。也就是说，账户中不能有多个同名的计算池。

创建计算池至少需要以下信息：

• 为计算池节点提供的机器类型（称为 实例系列）

• 启动计算池所需的最小节点数

• 计算池可扩展到的最大节点数（Snowflake 负责管理扩展）。

如果预计在计算池中运行的服务会有大量负载或突发活动，可以将最小节点数设置为大于 1。这种方法可确保在需要时可以随时使用其他节点，而不是等待自动扩缩启动。

设置最大节点限制可防止 Snowflake 自动扩缩时将大量意外节点添加到计算池中。这在遇到意外负载峰值或代码中出现问题等情况下至关重要，这些情况可能导致 Snowflake 分配的计算池节点数量超过最初计划。

使用 Snowsight 或 SQL 创建计算池：

Snowsight:

1. In the navigation menu, select Compute » Compute Pools.

2. 在导航栏底部选择用户名，然后切换到 ACCOUNTADMIN 角色或任何允许创建计算池的角色。

3. 选择 + Compute Pool。

4. 在 New compute pool UI 中，指定所需的信息（计算池名称、实例系列和节点限制）。

5. 选择 Create Compute Pool。

SQL:

执行 CREATE COMPUTE POOL 命令。

例如，下面的命令创建了一个单节点计算池：

CREATE COMPUTE POOL tutorial_compute_pool
  MIN_NODES = 1
  MAX_NODES = 1
  INSTANCE_FAMILY = CPU_X64_XS;

Copy

实例系列明确了要为计算池中的计算节点配置的机器类型。创建计算池时指定实例系列类似于在创建仓库时指定仓库大小（XSMALL、SMALL、MEDIUM、LARGE 等）。下表列出了可用的机器类型。

INSTANCE_FAMILY，请参阅 Snowflake 服务消耗表	vCPU	内存 (GiB)	存储 (GB)	带宽限制 (Gbps)	GPU	每个 GPU 的 GPU 内存 (GiB)	节点限制	描述
CPU_X64_XS	1	6	100	高达 12.5	不适用	不适用	50	可用于 Snowpark 容器的最小实例。非常适合节省成本和入门。
CPU_X64_S	3	13	100	高达 12.5	不适用	不适用	50	非常适合托管多个服务/作业，同时节省成本。
CPU_X64_M	6	28	100	高达 12.5	不适用	不适用	50	非常适合拥有全栈应用程序或多种服务
CPU_X64_SL	14	54	100	高达 12.5	不适用	不适用	50	For applications which need a large number of CPUs, memory and Storage.
CPU_X64_L	28	116	100	12.5	不适用	不适用	50	适用于需要异常大量 CPUs、内存和存储的应用程序。
HIGHMEM_X64_S	6	58	100	AWS 和 GCP：高达 12.5，Azure：8	不适用	不适用	50	适用于内存密集型应用程序。
HIGHMEM_X64_M、. 高内存 CPU | M	28	AWS：240、Azure 和 GCP：244	100	AWS：12.5，Azure 和 GCP：16	不适用	不适用	50	适用于在单台机器上托管多个内存密集型应用程序。
HIGHMEM_X64_SL、. 高内存 CPU | SL :newline:`.`（仅限 Azure 和 GCP）	92	654	100	32	不适用	不适用	20	可用于处理大量内存中数据的最大 Azure 或 GCP 高内存机器。
HIGHMEM_X64_L、. 高内存 CPU | L :newline:`.`（仅限 AWS）	124	984	100	50	不适用	不适用	20	可用于处理大量内存中数据的最大 AWS 高内存机器。
GPU_NV_S、. GPU | S :newline:`.`（仅限 AWS，新加坡、瑞士北部、巴黎和大阪区域除外）	6	27	300 (NVMe)	高达 10	1 个 NVIDIA A10G	24	10	我们为开始使用 Snowpark 容器提供的最小 NVIDIA GPU 大小。
GPU_NV_M（仅限 AWS，新加坡、瑞士北部、巴黎和大区域除外）	44	178	3.4 TB (NVMe)	40	4 个 NVIDIA A10G	24	10	针对密集型 GPU 使用场景进行了优化，如 Computer Vision 或 LLMs/VLMs。
GPU_NV_L（仅限 AWS，仅 AWS US 西部和 US 东部区域可按需提供；其他区域可能能够在申请后有限提供）	92	1112	6.8 TB (NVMe)	400	8 个 NVIDIA A100	40	按请求	LLMs 和群集等特殊和高级 GPU 案例的最大 GPU 实例。
GPU_NV_XS（仅限 Azure，瑞士北部、UAE 北部、US 中部和 UK 南部区域除外）	3	26	100	8	1 个 NVIDIA T4	16	10	我们为 Snowpark 容器提供的 Azure NVIDIA GPU 最小规格，助您快速入门。
GPU_NV_SM（仅限 Azure，US 中部区域除外）	32	424	100	40	1 个 NVIDIA A10	24	10	为 Snowpark 容器提供的 Azure NVIDIA GPU 最小规格，助您快速入门。
GPU_NV_2M（仅限 Azure，US 中部区域除外）	68	858	100	80	2 个 NVIDIA A10	24	5	针对密集型 GPU 使用场景进行了优化，如 Computer Vision 或 LLMs/VLMs。
GPU_NV_3M（仅限 Azure，US 中部、北欧和 UAE 北部区域除外）	44	424	100	40	2 个 NVIDIA A100	80	按请求	针对内存密集型 GPU 使用场景进行了优化，如 Computer Vision 或 LLMs/VLMs。
GPU_NV_SL（仅限 Azure，US 中部、北欧和 UAE 北部区域除外）	92	858	100	80	4 个 NVIDIA A100	80	按请求	LLMs 和群集等特殊和高级 GPU 案例的最大 GPU 实例。
GPU_GCP_NV_L4_1_24G（仅限 Google Cloud）	6	28	300	高达 16	1 个 NVIDIA L4	24	10	我们为开始使用 Snowpark 容器提供的最小 NVIDIA GPU 大小。
GPU_GCP_NV_L4_4_24G（仅限 Google Cloud）	44	178	1200	高达 50	4 个 NVIDIA L4	24	10	GPU 使用场景，例如计算机视觉或 LLMs。
GPU_GCP_NV_A100_8_40G（仅限 Google Cloud，仅应要求在 GCP US 中部 1 和欧洲西部 4 地区提供）	92	654	2500	高达 100	8 个 NVIDIA A100	40	按请求	针对内存密集型 GPU 使用场景进行了优化，如 Computer Vision 或 LLMs/VLMs。

有关可用实例族的信息，请参阅 CREATE COMPUTE POOL。

管理计算池¶

您可以使用 Snowsight 或 SQL 管理计算池。

在 Snowsight 中，选择计算池名称旁边的更多选项 (...)，然后从菜单中选择所需的操作。本节将介绍用来管理计算池的 SQL 命令。

Snowpark Container Services 提供以下命令来管理计算池：

• 监控： 使用 SHOW COMPUTE POOLS 命令可获取有关计算池的信息。

• 操作： 使用 ALTER COMPUTE POOL 命令可更改计算池的状态。

  ALTER COMPUTE POOL <name> { SUSPEND | RESUME | STOP ALL }
  

  Copy

  暂停计算池时，Snowflake 会暂停除作业服务外的所有服务。作业服务会继续运行，直到达到结束状态（DONE 或 FAILED），之后计算池节点会被释放。

  在启动新服务之前，必须先恢复已暂停的计算池。如果将计算池配置为自动恢复（将 AUTO_RESUME 属性设置为 TRUE），则当向计算池提交服务时，Snowflake 会自动恢复计算池。否则，需要运行 ALTER COMPUTE POOL 命令，手动恢复计算池。

• 修改： 使用 ALTER COMPUTE POOL 命令可更改计算池属性。

  ALTER COMPUTE POOL <name> SET propertiesToAlter = <value>
  propertiesToAlter := { MIN_NODES | MAX_NODES | AUTO_RESUME | AUTO_SUSPEND_SECS | COMMENT }
  

  Copy

  降低 MAX_NODES 时，请注意以下潜在影响：

  • Snowflake 可能需要终止一个或多个服务实例，并在计算池中的其他可用节点上重新启动它们。如果 MAX_NODES 设置过低，Snowflake 可能无法调度某些服务实例。

  • 如果被终止的节点正在执行作业服务，则作业执行将失败。Snowflake 不会重新启动该作业服务。

    示例：

    ALTER COMPUTE POOL my_pool SET MIN_NODES = 2  MAX_NODES = 2;
    

    Copy

• 移除： 使用 DROP COMPUTE POOL 命令可移除计算池。

  示例：

  DROP COMPUTE POOL <name>
  

  Copy

  在删除计算池之前，必须先停止所有正在运行的服务。

• 列出计算池并查看属性： 使用 SHOW COMPUTE POOLS 和 DESCRIBE COMPUTE POOL 命令。有关示例，请参阅 显示计算池。

计算池生命周期¶

计算池可以处于以下任何一种状态：

• IDLE： 计算池拥有所需的虚拟机 (VM) 节点数量，但没有安排任何服务。在这种状态下，由于缺乏活动，自动扩缩会将计算池缩小到最小规模。

• ACTIVE： 计算池上至少有一个正在运行或计划运行的服务。计算池可以根据负载或用户操作而放大（至最大节点数）或缩小（至最小节点数）。

• SUSPENDED： 计算池目前不包含运行中的虚拟机节点，但如果将 AUTO_RESUME 计算池属性设置为 TRUE，则计算池会在有服务计划时自动恢复。

下列状态为瞬态：

• STARTING： 创建或恢复计算池时，计算池会进入 STARTING 状态，直到至少有一个节点完成预置。

• STOPPING： 暂停计算池（使用 ALTER COMPUTE POOL）时，计算池会进入 STOPPING 状态，直到 Snowflake 释放了计算池中的所有节点。暂停计算池时，Snowflake 会暂停除作业服务外的所有服务。作业服务会继续运行，直到达到结束状态（DONE 或 FAILED），之后计算池节点会被释放。

• RESIZING： 创建计算池时，计算池最初会进入 STARTING 状态。在预置了一个节点后，计算池会进入 RESIZING 状态，直到预置成功了最少的节点数（如 CREATE COMPUTE POOL 中所指定）。当您更改计算池 (ALTER COMPUTE POOL) 并更新最小和最大节点值时，计算池会进入 RESIZING 状态，直到预置成功了最小节点数。请注意，计算池的自动扩缩也会使其处于 RESIZING 状态。

For information about how the costs incurred during the different states of the compute pool lifecycle, see 计算池成本.

计算池权限¶

使用计算池时，适用以下权限模型：

• 要在账户中创建计算池，当前角色需要对账户具有 CREATE COMPUTE POOL 权限。如果创建了计算池，那么作为所有者，您就具有 OWNERSHIP 权限，可以完全控制该计算池。对一个计算池具有 OWNERSHIP 权限并不意味着对其他计算池具有任何权限。

• 对于计算池，支持以下权限（功能）：

  权限	用途
  MODIFY	允许更改任何计算池属性，包括更改大小。
  MONITOR	允许查看计算池使用情况，包括描述计算池属性。
  OPERATE	允许更改计算池的状态（暂停、恢复）。此外，还能停止任何已计划的服务（包括作业服务）。
  USAGE	允许在计算池中创建服务。请注意，当计算池处于暂停状态且其 AUTO_RESUME 属性设置为 true 时，对计算池具有 USAGE 权限的角色在启动或恢复一项服务时可隐式触发计算池的恢复，即使该角色没有 OPERATE 权限。
  OWNERSHIP	授予对计算池的完全控制权。同一时间只有一个角色可以在特定对象上拥有此权限。
  ALL [ PRIVILEGES ]	授予对计算池的所有权限，OWNERSHIP 除外。

计算池维护¶

作为例行内部基础设施维护的一部分，Snowflake 定期更新计算池节点，以确保最佳性能和安全性。其中包括操作系统升级、驱动程序增强和安全修复。维护工作包括每隔几周用更新的节点替换过时的节点，每个节点的运行时间最长可达一个月。

如何在计算池上调度服务¶

创建服务 时，您可能会选择运行多个实例来管理传入负载。对计算池节点上的服务实例进行调度时，Snowflake 遵循以下一般准则：

• 一个服务实例中的所有容器始终在单个计算池节点上运行。也就是说，一个服务实例永远不会跨越多个节点。

• 运行多个服务实例时，Snowflake 可能会在同一节点或计算池内的不同节点上运行这些服务实例。在做出这一决定时，Snowflake 会考虑服务规范文件中列出的任何硬性资源要求（例如内存和 GPU）（请参阅 containers.resources 字段）。

  例如，假设计算池中的每个节点都提供 8 GB 内存。如果您的服务规范对内存的要求为 6 GB，而您在创建服务时选择运行两个实例，则 Snowflake 无法在同一节点上运行两个实例。在这种情况下，Snowflake 会将每个实例分别安排在计算池内的单独节点上，以满足内存需求。

笔记本的计算池¶

Snowflake 自动在每个 Snowflake 账户中预置两个计算池，用于运行笔记本。如果您不想使用 Snowflake 预置的这些计算池，则可以为 Notebook 应用程序配置首选计算池。

SHOW PARAMETERS LIKE 'DEFAULT_NOTEBOOK_COMPUTE_POOL_GPU' IN ACCOUNT;

SHOW PARAMETERS LIKE 'DEFAULT_NOTEBOOK_COMPUTE_POOL_GPU' IN DATABASE my_db;

SHOW PARAMETERS LIKE 'DEFAULT_NOTEBOOK_COMPUTE_POOL_GPU' IN SCHEMA my_db.my_schema;

准则和限制¶

• CREATE COMPUTE POOL 权限： 如果在当前角色下无法创建计算池，请咨询账户管理员以获授权限。例如：

  GRANT CREATE COMPUTE POOL ON ACCOUNT TO ROLE <role_name> [WITH GRANT OPTION];
  

  Copy

  有关更多信息，请参阅 GRANT <privileges> ... TO ROLE。

• 每个账户对于计算池节点数的限制。

  • The maximum number of nodes you can create in your account (regardless of the number of compute pools) is 500.

  • 每个计算池的最大节点数为 50。

  此外，每个实例系列允许的节点数量是有限制的（请参阅 实例系列表 中的 节点限制 列）。如果出现如下所示的错误信息：Requested number of nodes <#> exceeds the node limit for the account，说明您遇到了此类限制。如需了解更多信息，请联系您的客户代表。