Como soluciono problemas comuns com o SageMaker AI JumpStart?

Resolução

Não é possível visualizar os modelos básicos do SageMaker

Se não for possível visualizar os modelos básicos do SageMaker AI no console do SageMaker AI ou no SageMaker AI Studio, talvez receba um dos seguintes erros:

“There's been an error with your request. Please retry and contact support.”

“Something went wrong: Please ensure that your account is authorized to read from Amazon S3”

Esses erros ocorrem quando você não tem permissão do AWS Identity and Access Management (AWS IAM) para acessar as políticas do aws-marketplace ou permissões de leitura ou gravação para o Amazon Simple Storage Service (Amazon S3).

Para acessar os modelos básicos do SageMaker AI, use a política gerenciada do AmazonSageMakerFullAccess. Se você não tiver acesso a essa política, use uma política de restrição de acesso que inclua as permissões necessárias para o hub de modelos fundamentais do SageMaker AI.

Se você recebeu o erro no console do SageMaker AI, adicione a seguinte política ao seu perfil de runtime do IAM:

{
            "Effect": "Allow",
            "Action": [
                "s3:GetObject"
            ],
            "Resource": "arn:aws:s3:::example-bucket/*",
            "Condition": {
                "StringEqualsIgnoreCase": {
                    "s3:ExistingObjectTag/SageMaker": "true"
                }
            }
        },
        {
            "Effect": "Allow",
            "Action": [
                "s3:GetObject"
            ],
            "Resource": "arn:aws:s3:::example-bucket/*",
            "Condition": {
                "StringEquals": {
                    "s3:ExistingObjectTag/servicecatalog:provisioning": "true"
                }
            }
        }

Observação: Substitua example-bucket pelo seu bucket Amazon S3.

Se você recebeu o erro do SageMaker AI Studio, adicione a seguinte política ao seu perfil de runtime de execução de domínio:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "sagemaker:InvokePlaygroundEndpoint",
                "aws-marketplace:Subscribe",
                "aws-marketplace:ViewSubscriptions"
            ],
            "Resource": [
                "*"
            ]
        },
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": [
                "arn:aws:lambda:*:*:function:SageMakerFoundationHubAppConfigLambdaFunction"
            ]
        }
    ]
}

Você recebe o erro “HeadObject operation: Erro Not Found”

Ao definir o atributo model_version do notebook do SageMaker AI Studio como * para usar a versão mais recente do modelo, é possível receber a mensagem de erro a seguir:

“An error occurred (404) when calling the HeadObject operation: Not Found”

Esse erro ocorre quando o SageMaker atualiza todos os modelos para usar artefatos de modelo não compactados. Para resolver esse problema, defina o atributo model_version do notebook para uma versão exata do modelo.

Você recebe o erro “Your invocation timed out”

Um tempo limite de invocação ocorre quando a invocação leva mais do que um número especificado de segundos para ser processada. Como resultado, você recebe a seguinte mensagem de erro:

“Error: Your invocation timed out while waiting for a response from container primary. Review the latency metrics for each container in Amazon CloudWatch, resolve the issue, and try again.”

Para resolver esse problema, defina o tempo de processamento para um limite seguro.

Para evitar um tempo limite de invocação, use as práticas recomendadas:

• Para manter o tempo de processamento abaixo do limite especificado, limite o número de tokens gerados.
• Se necessário, divida a entrada em várias invocações. Além disso, combine respostas para fornecer contexto.
• Use uma resposta de streaming.
• Se as solicitações paralelas ou ambientes multi-tenant estiverem lentos, aumente o limite de segurança para o número máximo de tokens.

Além disso, é uma prática recomendada desativar as novas tentativas automáticas do cliente boto3 que fazem com que o tempo limite se repita várias vezes:

import botocore; config=botocore.config.Config(retries=dict(max_attempts=0))

Para continuar a solução de problemas, verifique as métricas do Amazon CloudWatch para os endpoints de inferência do Amazon Bedrock ou SageMaker AI.

Informações relacionadas

Habilite o Amazon SageMaker JumpStart para funções de execução personalizadas do IAM

Algoritmos integrados com tabela de modelos pré-treinada no site do SageMaker

Introdução ao JumpStart - texto para imagem no site do GitHub