Bedrock Titan completionReason CONTENT_FILTERED

0

Using Bedrock LLM model "amazon.titan-text-express-v1" in French, if I submit this question:

"Quand Simone Veil a été élue Présidente du Parlement européen ?"

I get the correct answer: "Simone Veil a été élue Présidente du Parlement européen le 17 juillet 1979."

However if I submit this slightly different quesiton:

"Quand Simone Veil est élue Présidente du Parlement européen ?"

I get "Sorry - this model is unable to respond to the prompt." and completionReason is CONTENT_FILTERED.

What does CONTENT_FILTERED mean?

demandé il y a 2 mois987 vues
1 réponse
0

Bonjour,

Je crois comprendre que vous obtenez « CONTENT_FILTERED » comme valeur pour CompletionReason renvoyée par la ligne de commande InvokeModel lors de l'exécution du modèle Titan en français et j'aimerais recueillir plus d'informations à ce sujet.

Sachez que le modèle Titan actuel ne prend en charge que la saisie en anglais [1]. Lorsque vous utilisez le modèle Titan avec une entrée autre que l'anglais [1], vous pouvez rencontrer un CompletionReason « CONTENT_FILTERED » dans la réponse. Cela se produit parce que la sortie est signalée et filtrée par le service parce qu'elle n'est pas en anglais.

Le CompletionReason indique pourquoi le modèle a arrêté le processus d'échantillonnage [2] :

  • TERMINÉ : Le modèle a atteint une séquence d'arrêt ou un jeton d'arrêt directement intégré dans l'espace des jetons.
  • LONGUEUR : Le modèle a atteint la limite d'échantillonnage maximale, MaxTokenCount.
  • CONTENT_FILTERED : Le service a marqué le contenu, en l'occurrence pour la langue.

En résumé, le modèle Titan est conçu pour une saisie en anglais, c'est-à-dire généralement disponible [1]. L'utilisation d'une entrée autre que l'anglais entraînera le marquage et le filtrage de la sortie, renvoyant « CONTENT_FILTERED » comme CompletionReason. Pour éviter cela, veillez à utiliser la saisie anglaise avec le modèle pour le moment.

Si vous rencontrez des difficultés ou si vous rencontrez toujours des problèmes, veuillez contacter AWS Support [3] (Bedrock) en détaillant votre problème ou votre cas d'utilisation, et nous serons ravis de vous aider davantage.

Références :


[1] https://aws.amazon.com/bedrock/titan/

[2] https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters-titan.html#model-parameters-titan-response-body

[3] Création de dossiers de support et gestion des dossiers : https://docs.aws.amazon.com/awssupport/latest/user/case-management.html#creating-a-support-casehttps://docs.aws.amazon.com/awssupport/latest/user/case-management.html#creating-a-support-case

AWS
répondu il y a 2 mois

Vous n'êtes pas connecté. Se connecter pour publier une réponse.

Une bonne réponse répond clairement à la question, contient des commentaires constructifs et encourage le développement professionnel de la personne qui pose la question.

Instructions pour répondre aux questions