Sagemaker 异步端点配置

Question

【以下的问题经过翻译处理】 我们使用Sagemaker Jumpstart部署了一个LighGBM回归模型和端点。
我们尝试通过控制台将此端点配置为“异步”。
收到错误消息：ValidationException-Network Isolation is not supported when specifying an AsyncInferenceConfig。

查看模型的网络详细信息后，发现模型的“网络隔离”设置为“True”。
这是JumpStart默认的输出设置。

如何禁用网络隔离以使此端点变成异步？

Answer

【以下的回答经过翻译处理】 原生的SageMaker "模型"（不同于有版本的ModelPackages）在API中是不可变的，没有"UpdateModel"的操作...但我认为你应该能够创建一个新的模型，复制当前模型的设置。

我建议你：

1. 使用[DescribeModel](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_DescribeModel.html)（通过Python中的[boto3.client("sagemaker").describe_model()](https://boto3.amazonaws.com/v1/documentation/api/latest/reference/services/sagemaker.html#SageMaker.Client.describe_model)）获取现有JumpStart模型的所有参数，如S3工件位置和其他设置。
2. 使用[CreateModel](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateModel.html)（[create_model()](https://boto3.amazonaws.com/v1/documentation/api/latest/reference/services/sagemaker.html#SageMaker.Client.create_model)）创建一个具有相同配置但网络隔离已禁用的新模型。
3. 使用你的新模型尝试部署异步端点。

可能你会发现，与高级`sagemaker` SDK的[Model class](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html)相比，低级别的boto3 SDK更符合直觉，因为前者会进行一些让典型的构建/训练/部署工作流更容易的魔法操作，但对于处理现有模型定义来说可能不太直观。例如，创建一个SMSDK`Model`对象实际上并没有在SageMaker API中创建一个模型，因为部署实例类型会影响容器映像的选择，因此会推迟到稍后的`.deploy()`调用或类似操作。

Sagemaker 异步端点配置

相关内容