Snowflake Data Clean Room:重叠分析

本主题介绍了以编程方式建立 Clean Room、与使用者共享 Clean Room 以及在 Clean Room 中运行提供商端的数据分析所需的提供商和使用者流程。提供商端的数据分析是指使用者无需引入自己的数据集,而只是希望获得有关提供商数据集的汇总见解。

具体涵盖以下内容:

  1. 提供商:

    a.创建新的 Clean Room。

    b.安全地将数据集关联到 Clean Room。

    c.添加策略,管理哪些列可以联接并在分析中使用。

    d.启用预定义的重叠分析模板。

    e.与使用者共享。

  2. 使用者:

    a.安装由提供商共享的 Clean Room。

    b.将数据集添加到 Clean Room。

    c.检查 Clean Room 中提供的模板。

    d.使用该模板在 Clean Room 中运行分析。

先决条件

您需要两个独立的 Snowflake 账户才能完成此流程。使用第一个账户执行提供商的命令,然后切换到第二个账户执行使用者的命令。

提供商

备注

应在提供商账户的 Snowflake 工作表中运行以下命令。

设置环境

在利用开发者 APIs 使用 Snowflake Data Clean Room 之前,请执行以下命令来设置 Snowflake 环境。如果您没有 SAMOOHA_APP_ROLE 角色,请联系账户管理员。

use role samooha_app_role;
use warehouse app_wh;
Copy

创建 Clean Room

为 Clean Room 创建名称。输入新的 Clean Room 名称,避免与现有 Clean Room 名称冲突。请注意,Clean Room 名称只能是 字母数字。除空格和下划线外,Clean Room 名称不能包含特殊字符。

set cleanroom_name = 'Overlap Analysis Demo Clean Room';
Copy

您可以使用上面设置的 Clean Room 名称创建新的 Clean Room。如果上面设置的 Clean Room 名称已经作为现有 Clean Room 存在,则此过程将失败。

运行此过程通常需要大约半分钟。

provider.cleanroom_init 的第二个实参是 Clean Room 的分发。它可以是 INTERNAL 或 EXTERNAL。出于测试目的,如果您将 Clean Room 共享给同一组织中的账户,则可以使用 INTERNAL 绕过自动安全扫描,该扫描必须在将应用程序包发布给协作者前进行。但是,如果要将此 Clean Room 共享给其他组织中的账户,则必须使用 EXTERNAL Clean Room 分发。

call samooha_by_snowflake_local_db.provider.cleanroom_init($cleanroom_name, 'INTERNAL');
Copy

要查看安全扫描的状态,请使用:

call samooha_by_snowflake_local_db.provider.view_cleanroom_scan_status($cleanroom_name);
Copy

创建 Clean Room 之后,必须先设置其发布指令,然后才能与协作者共享。但是,如果您的分发设置为 EXTERNAL,则必须先等待安全扫描完成,然后再设置发布指令。您可以在扫描完成期间继续运行其余步骤,并在执行 provider.create_cleanroom_listing 步骤之前返回此处。

要设置发布指令,请调用:

call samooha_by_snowflake_local_db.provider.set_default_release_directive($cleanroom_name, 'V1_0', '0');
Copy

跨区域共享

如果 Snowflake 客户的账户与您的账户位于不同区域,则必须启用 Cross-Cloud Auto-Fulfillment 才能与该客户共享 Clean Room。有关与其他区域的使用者协作的额外成本的信息,请参阅 Cross-Cloud Auto-Fulfillment 成本

使用开发者 APIs 时,启用跨区域共享分为两步:

  1. 具有 ACCOUNTADMIN 角色的 Snowflake 管理员为 Snowflake 账户启用 Cross-Cloud Auto-Fulfillment。有关说明,请参阅 与不同区域的账户协作

  2. 您执行 provider.enable_laf_for_cleanroom 命令,为 Clean Room 启用 Cross-Cloud Auto-Fulfillment例如:

    call samooha_by_snowflake_local_db.provider.enable_laf_for_cleanroom($cleanroom_name);
    
    Copy

在为 Clean Room 启用 Cross-Cloud Auto-Fulfillment 后,您可以使用 provider.create_cleanroom_listing 命令照常将使用者添加到列表中。列表会根据需要自动复制到远程云和区域。

向 Clean Room 添加分析模板

使用预定义模板的名称标识符添加预定义模板列表。在此流程中,您将添加一个预定义模板,该模板允许使用者以安全且经过提供商批准的方式,在提供商批准的列上对其数据集和提供商数据集之间的重叠进行分析。

此模板的一个关键细节是,它以原生方式实现了 差分隐私 提供的额外安全保证。请参阅差分隐私,了解更多信息。

call samooha_by_snowflake_local_db.provider.add_templates($cleanroom_name, ['prod_overlap_analysis']);
Copy

如果要查看 Clean Room 中当前有效的模板,请调用以下过程。您可以查看对分析启用差分隐私保证所需要使用的修改。您选择编写的任何自定义模板都可以采用类似的模式。

备注

请注意,所有系统定义的预设模板均已加密,默认情况下不可查看。但是,您添加的所有自定义模板均可见。

call samooha_by_snowflake_local_db.provider.view_added_templates($cleanroom_name);
Copy

如果需要,也可以将任何添加到 Clean Room 的模板清除。请参阅 提供商 API 参考指南,了解更多详情。

对每个表设置列策略

显示关联的数据以查看表中存在的列。要查看前 10 行,请调用以下过程。

select * from SAMOOHA_SAMPLE_DATABASE_NAV2.DEMO.CUSTOMERS limit 10;
Copy

为每个表和模板组合设置使用者可以分组、汇总(例如 SUM/AVG)和通常用于分析的列。这提供了灵活性,使同一个表可以根据基础模板允许不同的列选择。只有在添加模板后才可调用此函数。

请注意,列策略是 仅替换,因此如果再次调用函数,新的列策略会完全替换之前设置的列策略。

不应将列策略用于 email、HEM、RampID 等身份列,因为您不希望使用者能够按这些列进行分组。在生产环境中,系统会智能推断 PII 列并阻止此操作,但在沙盒环境中此功能不可用。只应将其用于您希望使用者能够汇总和分组的列,如状态、年龄段、渠道、活动天数等。

call samooha_by_snowflake_local_db.provider.set_column_policy($cleanroom_name, [
'prod_overlap_analysis:SAMOOHA_SAMPLE_DATABASE_NAV2.DEMO.CUSTOMERS:STATUS', 
'prod_overlap_analysis:SAMOOHA_SAMPLE_DATABASE_NAV2.DEMO.CUSTOMERS:AGE_BAND', 
'prod_overlap_analysis:SAMOOHA_SAMPLE_DATABASE_NAV2.DEMO.CUSTOMERS:DAYS_ACTIVE', 
'prod_overlap_analysis:SAMOOHA_SAMPLE_DATABASE_NAV2.DEMO.CUSTOMERS:REGION_CODE']);
Copy

如果要查看已添加到 Clean Room 的列策略,请调用以下过程。

call samooha_by_snowflake_local_db.provider.view_column_policy($cleanroom_name);
Copy

与使用者共享

最后,通过添加数据使用者的 Snowflake 账户定位器和账户名称,将数据使用者添加到 Clean Room,如下所示。Snowflake 账户名称的格式必须为 <ORGANIZATION>.<ACCOUNT_NAME>。

备注

为了调用以下过程,请确保首先使用 provider.set_default_release_directive 设置发布指令。您可以使用以下方式查看最新的可用版本和补丁:

show versions in application package samooha_cleanroom_Overlap_Analysis_Demo_clean_room;
Copy
call samooha_by_snowflake_local_db.provider.add_consumers($cleanroom_name, '<CONSUMER_ACCOUNT_LOCATOR>', '<CONSUMER_ACCOUNT_NAME>');
call samooha_By_snowflake_local_db.provider.create_cleanroom_listing($cleanroom_name, '<CONSUMER_ACCOUNT_NAME>');
Copy

对于多个使用者账户定位器,可以用逗号分隔的字符串形式传递到 provider.add_consumers 函数中,也可以分别调用 provider.add_consumers

如果要查看已添加到此 Clean Room 的使用者,请调用以下过程。

call samooha_by_snowflake_local_db.provider.view_consumers($cleanroom_name);
Copy

如果想查看最近创建的 Clean Room,请使用以下过程。

call samooha_by_snowflake_local_db.provider.view_cleanrooms();
Copy

如果想更深入地了解您创建的 Clean Room,请使用以下过程。

call samooha_by_snowflake_local_db.provider.describe_cleanroom($cleanroom_name);
Copy

创建的任何 Clean Room 也都可以删除。以下命令将完全删除 Clean Room,因此以前有权访问 Clean Room 的任何使用者都将无法再对其进行使用。如果将来需要使用相同名称的 Clean Room,则必须按照上述流程重新初始化。

call samooha_by_snowflake_local_db.provider.drop_cleanroom($cleanroom_name);
Copy

备注

此时,提供商流程已完成。切换到使用者账户,继续执行使用者流程。

使用者

备注

应在使用者账户的 Snowflake 工作表中运行以下命令

设置环境

在利用开发者 APIs 使用 Snowflake Data Clean Room 之前,请执行以下命令来设置 Snowflake 环境。如果您没有 SAMOOHA_APP_ROLE 角色,请联系账户管理员。

use role samooha_app_role;
use warehouse app_wh;
Copy

安装 Clean Room

安装 Clean Room 共享后,可以使用以下命令查看可用的 Clean Room 列表。

call samooha_by_snowflake_local_db.consumer.view_cleanrooms();
Copy

为提供商与您共享的 Clean Room 命名。

set cleanroom_name = 'Overlap Analysis Demo Clean room';
Copy

以下命令将 Clean Room 安装到具有相关提供商和所选 Clean Room 的使用者账户中。输入提供商的 Snowflake 账户定位器(而非名称)。

运行此过程所需时间可能较长,通常约为半分钟。

call samooha_by_snowflake_local_db.consumer.install_cleanroom($cleanroom_name, '<PROVIDER_ACCOUNT_LOCATOR>');
Copy

安装了 Clean Room 后,提供商必须在启用前完成提供商侧的 Clean Room 设置。您可以通过以下函数查看 Clean Room 的状态。启用 Clean Room 后,您应该能够运行下面的“运行分析”命令。启用 Clean Room 通常需要大约 1 分钟。

call samooha_by_snowflake_local_db.consumer.is_enabled($cleanroom_name);
Copy

运行分析

现在,Clean Room 已经安装完毕,您可以使用“run_analysis”命令运行由提供商提供给 Clean Room 的分析模板。您可以在以下各节中看到如何确定每个字段。

备注

在运行分析之前,您可以更改仓库规模;如果表较大,也可以使用新的、更大的仓库规模。

-- Example run analysis procedure with single provider dataset

call samooha_by_snowflake_local_db.consumer.run_analysis(
  $cleanroom_name,                    -- cleanroom
  'prod_overlap_analysis',            -- template name

  ['SAMOOHA_SAMPLE_DATABASE_NAV2.DEMO.CUSTOMERS'], -- your tables
  
  ['SAMOOHA_SAMPLE_DATABASE_NAV2.DEMO.CUSTOMERS'],  -- the provider table we want to carry out analysis on

  object_construct(                        -- The keyword arguments needed for the SQL Jinja template
      'dimensions', ['p.REGION_CODE'],        -- Group by column

      'measure_type', ['AVG'],           -- Aggregate function you want to perform like COUNT, AVG, etc.

      'measure_column', ['p.DAYS_ACTIVE'],     -- Columns you want to perform aggregate function on

      'where_clause', 'p.HEM=c.HEM'   -- A boolean filter
                                      -- $$ is used to pass string literal

    )
);
Copy

对于在筛选“where_clause”、“dimensions”或“measure_columns”的数据集中引用的每一列,您可以使用 p. 引用提供商表中的字段,使用 c. 引用使用者表中的字段。对多个提供商表,可以使用 p2、p3 等;对多个使用者表,可以使用 c2、c3 等。

如何确定 run_analysis 的输入

要运行分析,需要向 run_analysis 函数传递一些参数。本节将向您展示如何确定要传入的参数。

模板名称

首先,您可以通过调用以下过程来查看支持的分析模板。

call samooha_by_snowflake_local_db.consumer.view_added_templates($cleanroom_name);
Copy

在使用模板运行分析之前,您需要知道要指定哪些实参以及需要哪些类型。对于自定义模板,您可以执行以下操作。

备注

请注意,所有系统定义的预设模板均已加密,默认情况下不可查看。但是,您添加的所有自定义模板均可见。

call samooha_by_snowflake_local_db.consumer.view_template_definition($cleanroom_name, 'prod_overlap_analysis');
Copy

这通常还可以包含大量不同的 SQL Jinja 参数。以下功能可解析 SQL Jinja 模板,并将需要在 run_analysis 中指定的实参提取到列表中。

备注

请注意,所有系统定义的预设模板均已加密,因此,此函数不会获取这些模板的实参。但是,您可以检索自定义模板的参数。

call samooha_by_snowflake_local_db.consumer.get_arguments_from_template($cleanroom_name, 'prod_overlap_analysis');
Copy

数据集名称

如果要查看提供商已添加到 Clean Room 的数据集名称,请调用以下过程。请注意,由于 Clean Room 的安全属性,您无法查看提供商添加到 Clean Room 的数据集中的数据。

call samooha_by_snowflake_local_db.consumer.view_provider_datasets($cleanroom_name);
Copy

您还可以使用以下调用,查看已关联到 Clean Room 的表:

call samooha_by_snowflake_local_db.consumer.view_consumer_datasets($cleanroom_name);
Copy

维度和度量列

在运行分析时,您可能希望对某些列进行筛选、分组和汇总。如果要查看提供商已添加到 Clean Room 的列策略,请调用以下过程。

call samooha_by_snowflake_local_db.consumer.view_provider_column_policy($cleanroom_name);
Copy

Epsilon 和隐私预算

如果上次执行过程后出现错误,可能是因为您选择的 epsilon 过高,没有剩余预算。您可以使用以下过程,查看剩余的隐私预算。

call samooha_by_snowflake_local_db.consumer.view_remaining_privacy_budget($cleanroom_name);
Copy

您指定的 epsilon 参数是对 Clean Room 内运行的差分隐私机制的输入。请参阅差分隐私部分,了解有关差分隐私工作原理的更多信息。您指定的 epsilon 值越高,消耗的有限隐私预算(每日重置)就越多,但由于此时向聚合数据中添加的噪声较少,因此结果的准确性更高。

常见错误

如果运行分析后出现 Not approved: unauthorized columns used 错误,您可能需要再次查看提供商设置的联接策略和列策略。

call samooha_by_snowflake_local_db.consumer.view_provider_join_policy($cleanroom_name);
call samooha_by_snowflake_local_db.consumer.view_provider_column_policy($cleanroom_name);
Copy

也有可能您已经耗尽了隐私预算,这样一来系统会阻止您执行更多查询。您可以使用以下命令查看剩余的隐私预算。预算会每天重置;Clean Room 提供商如果需要,也可以将其重置。

call samooha_by_snowflake_local_db.consumer.view_remaining_privacy_budget($cleanroom_name);
Copy

您可以通过以下 API 检查 Clean Room 是否启用了差分隐私:

call samooha_by_snowflake_local_db.consumer.is_dp_enabled($cleanroom_name);
Copy
语言: 中文