微调 (Snowflake Cortex)¶

概述¶

Cortex Fine-tuning 允许用户利用高效的参数微调功能 (PEFT) 来创建自定义适配器，以便在更专业的任务中与预训练模型配合使用。如果不想花高昂的成本从头开始训练一个大型模型，但又需要比提示工程甚至检索增强生成 (RAG) 方法更好的延迟和结果，那么微调现有的大型模型不失为一种选择。微调允许您使用示例来调整模型的行为，并提高模型对特定领域任务的认识。

Cortex Fine-tuning 是一项完全托管式服务，可让您在 Snowflake 中使用自己的数据对流行的 LLMs 进行微调。

Cortex Fine-tuning 功能作为 Snowflake Cortex 函数提供，FINETUNE，具有以下参数：

• CREATE：创建一个具有给定训练数据的微调作业。

• SHOW：列出当前角色可以访问的所有微调作业。

• DESCRIBE：描述特定微调作业的进展和状态。

• CANCEL：取消给定的微调作业。

成本注意事项¶

Snowflake Cortex Fine-tuning 函数的计算成本基于训练中使用的词元数量。此外，在微调模型上运行 COMPLETE 函数会产生计算成本，具体取决于处理的词元数量。请参阅 Snowflake 服务使用量表，以了解每个函数的每百万个词元消耗的 credit 成本。

词元是 Snowflake Cortex Fine-tuning 函数处理的最小文本单位，大约等于四个字符的文本。原始输入或输出文本与词元的等价性可能因模型而异。

• 对于在响应中生成新文本的 COMPLETE 函数，输入和输出词元都会统计在内。

• 微调训练的词元的计算方式如下：

  Fine-tuning trained tokens = number of input tokens * number of epochs trained
  

  Copy

  使用 FINETUNE ('DESCRIBE') (SNOWFLAKE.CORTEX) 查看您微调作业中训练的词元数量。

其他注意事项¶

• 除了调整和推理产生的费用外，还有正常的 存储 和 仓库 成本，用于存储输出定制适配器，以及运行任何 SQL 命令。

• 微调作业通常运行时间较长，且不附加至工作表会话。

• 以下限制适用于每个模型的训练/验证数据集大小：

  模型	训练数据限制
  llama3-8b	1 GB
  llama3-70b	250 MB
  llama3.1-8b	1 GB
  llama3.1-70b	250 MB
  mistral-7b	1 GB
  mixtral-8x7b	250 MB

访问控制要求¶

要运行微调作业，创建微调作业的角色需要具备以下权限：

以下 SQL 示例展示了如何为角色 my_role 授予 my_schema 的 CREATE MODEL 权限。

GRANT CREATE MODEL ON SCHEMA my_schema TO ROLE my_role;

此外，要使用 FINETUNE 函数，ACCOUNTADMIN 角色必须将 SNOWFLAKE.CORTEX_USER 数据库角色授予将调用该函数的用户。有关详细信息，请参阅 LLM 函数所需权限 主题。

要让其他角色访问使用微调模型，须授予对该模型的使用权限。有关详细信息，请参阅 模型权限。

可进行微调的模型¶

以下基础模型可以进行微调。未来可能会增加或移除可进行微调的模型：

如何微调模型¶

调整模型的整体工作流程如下：

1. 准备训练数据。

2. 使用所需参数开始微调作业。

3. 监控训练作业。

一旦训练完成，即可使用 Cortex Fine-tuning 提供的模型名称对模型进行推理。

SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  'my_tuned_model',
  'mistral-7b',
  'SELECT a AS prompt, d AS completion FROM train',
  'SELECT a AS prompt, d AS completion FROM validation'
);

USE DATABASE mydb;
USE SCHEMA myschema;

SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  'my_tuned_model',
  'mistral-7b',
  'SELECT prompt, completion FROM my_training_data',
  'SELECT prompt, completion FROM my_validation_data'
);

SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  'mydb.myschema.my_tuned_model',
  'mistral-7b',
  'SELECT prompt, completion FROM mydb2.myschema2.my_training_data',
  'SELECT prompt, completion FROM mydb2.myschema2.my_validation_data'
);

使用微调模型进行推理¶

使用带有微调模型名称的 COMPLETE LLM 函数 进行推理。

这个示例展示了对使用微调模型名称的 COMPLETE 函数的调用。

SELECT SNOWFLAKE.CORTEX.COMPLETE(
  'my_tuned_model',
  'How to fine-tune mistral models'
);

以下是示例调用的输出片段：

Mistral models are a type of deep learning model used for image recognition and classification. Fine-tuning a Mistral model involves adjusting the model's parameters to ...

限制和已知问题¶

• 微调作业仅可在账户级别列出。

• 从 FINETUNE ('SHOW') (SNOWFLAKE.CORTEX) 返回的微调作业非永久性的，可能会定期进行垃圾回收。

• 如果从 Cortex LLM 函数中移除基础模型，微调模型将不再运作。

共享模型¶

可以通过 数据共享 与具有 USAGE 权限的其他账户共享微调模型。

复制模型¶

跨区域推理 不支持微调模型。推理必须在模型对象所在的同一区域进行。如果微调模型对象所在区域与训练模型的区域不同，您可以使用 Database Replication 功能，将微调模型对象复制到您想要进行推理的区域。

例如，如果您在 AWS US 西部 2 区域的账户中创建了基于 mistral-7b 的微调模型，您可以使用数据共享功能将其与该区域的另一个账户共享，也可以使用 Database Replication 功能将模型复制到组织中支持 mistral-7b 模型的不同区域（如 AWS 欧洲西部）的另一个账户。有关复制对象的详细信息，请参阅 跨多个账户复制数据库和账户对象。

法律声明¶

输入和输出的 Data Classification 如下表所示。

有关更多信息，请参阅 Snowflake AI 和 ML。