Application de balises aux entrées utilisateur pour filtrer le contenu

Les balises d’entrée vous permettent de marquer du contenu spécifique dans le texte d’entrée que vous souhaitez traiter avec des barrières de protection. Cela est utile lorsque vous souhaitez appliquer des barrières de protection à certaines parties de l’entrée, tout en laissant d’autres parties non traitées.

Par exemple, l’invite d’entrée dans les applications RAG peut contenir des invites système, des résultats de recherche provenant de sources de documentation fiables et des requêtes d’utilisateurs. Comme les invites système sont fournies par le développeur et que les résultats de recherche proviennent de sources fiables, il se peut que vous n’ayez besoin de l’évaluation des barrières de protection que pour les requêtes des utilisateurs.

Dans un autre exemple, l’invite d’entrée dans les applications conversationnelles peut contenir des instructions système, l’historique des conversations et les entrées utilisateur actuelles. Les invites système sont des instructions spécifiques aux développeurs, et l’historique des conversations contient l’historique des entrées utilisateur et des réponses du modèle qui ont peut-être déjà été évalués par les barrières de protection. Dans un tel scénario, vous souhaiterez peut-être évaluer uniquement les entrées utilisateur actuelles.

En utilisant des balises d’entrée, vous pouvez mieux contrôler quelles parties de l’invite d’entrée doivent être traitées et évaluées par les barrières de protection, en veillant à ce que vos dispositifs de protection soient personnalisés pour vos cas d’utilisation. Cela contribue également à améliorer les performances et à réduire les coûts, car vous avez la possibilité d’évaluer une section relativement courte et pertinente de l’entrée, plutôt que l’intégralité de l’invite d’entrée.

Contenu des balises pour les barrières de protection

Pour baliser le contenu à traiter par les barrières de protection, utilisez la balise XML qui est une combinaison d’un préfixe réservé et d’un tagSuffix personnalisé. Par exemple :

{
    "text": """
        You are a helpful assistant.
        Here is some information about my account:
          - There are 10,543 objects in an S3 bucket.
          - There are no active EC2 instances.
        Based on the above, answer the following question:
        Question: 
        <amazon-bedrock-guardrails-guardContent_xyz>
        How many objects do I have in my S3 bucket? 
        </amazon-bedrock-guardrails-guardContent_xyz>
         ...
        Here are other user queries:
        <amazon-bedrock-guardrails-guardContent_xyz>
        How do I download files from my S3 bucket?
        </amazon-bedrock-guardrails-guardContent_xyz>    
    """,
    "amazon-bedrock-guardrailConfig": {
        "tagSuffix": "xyz"
    }
}

Dans l’exemple précédent, le contenu « How many objects do I have in my S3 bucket? » et « How do I download files from my S3 bucket? » est balisé pour un traitement par les barrières de protection à l’aide de la balise <amazon-bedrock-guardrails-guardContent_xyz>. Notez que le préfixe amazon-bedrock-guardrails-guardContent est réservé par les barrières de protection.

Suffixe de balise

Le suffixe de balise (xyz dans l’exemple précédent) est une valeur dynamique que vous devez fournir dans le champ tagSuffix dans amazon-bedrock-guardrailConfig pour utiliser le balisage d’entrée. Il est recommandé d’utiliser une nouvelle chaîne aléatoire comme tagSuffix pour chaque demande. Cela permet d’atténuer les potentielles attaques par injection d’invite en rendant imprévisible la structure des balises. Une balise statique peut entraîner la fermeture de la balise XML par un utilisateur malveillant et l’ajout de contenu malveillant après fermeture de la balise, ce qui entraîne une attaque par injection. Vous êtes limité aux caractères alphanumériques d’une longueur comprise entre 1 et 20 caractères inclus. Avec l’exemple de suffixe xyz, vous devez inclure tout le contenu à protéger à l’aide des balises XML avec votre suffixe : <amazon-bedrock-guardrails-guardContent_xyz>votre contenu</amazon-bedrock-guardrails-guardContent_xyz>. Nous vous recommandons d’utiliser un identifiant unique dynamique pour chaque demande en tant que suffixe de balise.

Plusieurs balises

Vous pouvez utiliser la même structure de balises plusieurs fois dans le texte d’entrée pour marquer différentes parties du contenu en vue du traitement par les barrières de protection. L’imbrication de balises n’est pas autorisée.

Contenu non balisé

Le contenu situé en dehors des balises d’entrée n’est pas traité par les barrières de protection. Cela vous permet d’inclure des instructions, des exemples de conversations, des bases de connaissances ou tout autre contenu que vous jugez sûr et que vous ne souhaitez pas traiter avec les barrières de protection. S’il n’existe aucune balise dans l’invite d’entrée, l’invite complète est traitée par les barrières de protection. La seule exception concerne les filtres Détection des attaques d’invites avec les barrières de protection Amazon Bedrock, qui nécessitent la présence de balises d’entrée.