Configuration et personnalisation de la génération de requêtes et de réponses

Suivez les étapes de la console aux sections Interrogation d’une base de connaissances et extraction des données ou Interrogation d’une base de connaissances et génération de réponses basées sur les données récupérées. Dans le volet Configurations, développez la section Segments sources et entrez le nombre maximum de segments sources à renvoyer.

Lorsque vous faites une demande Retrieve ou RetrieveAndGenerate, incluez un champ retrievalConfiguration, mappé à un objet KnowledgeBaseRetrievalConfiguration. Pour connaître l’emplacement de ce champ, reportez-vous aux corps de demande Retrieve et RetrieveAndGenerate dans la Référence des API.

L’objet JSON suivant indique le nombre minimum de champs requis dans l’objet KnowledgeBaseRetrievalConfiguration pour définir le nombre maximum de résultats à renvoyer :

"retrievalConfiguration": {
    "vectorSearchConfiguration": {
        "numberOfResults": number
    }
}

Spécifiez le nombre maximum de résultats extraits (voir le champ numberOfResults dans KnowledgeBaseRetrievalConfiguration pour connaître la plage de valeurs acceptées) à renvoyer dans le champ numberOfResults.

Suivez les étapes de la console aux sections Interrogation d’une base de connaissances et extraction des données ou Interrogation d’une base de connaissances et génération de réponses basées sur les données récupérées. Lorsque vous ouvrez le volet Configurations, développez la section Type de recherche, activez Remplacer la recherche par défaut et sélectionnez une option.

Lorsque vous faites une demande Retrieve ou RetrieveAndGenerate, incluez un champ retrievalConfiguration, mappé à un objet KnowledgeBaseRetrievalConfiguration. Pour connaître l’emplacement de ce champ, reportez-vous aux corps de demande Retrieve et RetrieveAndGenerate dans la Référence des API.

L’objet JSON suivant indique le nombre minimum de champs requis dans l’objet KnowledgeBaseRetrievalConfiguration pour définir les configurations de type de recherche :

"retrievalConfiguration": {
    "vectorSearchConfiguration": {
        "overrideSearchType": "HYBRID | SEMANTIC"
    }
}

Spécifiez le type de recherche dans le champ overrideSearchType. Vous avez les options suivantes :

Suivez les étapes de la console à la section Interrogation d’une base de connaissances et génération de réponses basées sur les données récupérées. Lorsque vous ouvrez le volet Configurations, développez la section Préférence de diffusion et activez Diffuser les réponses.

Pour diffuser les réponses, utilisez l’API RetrieveAndGenerateStream. Pour plus de détails sur le remplissage des champs, consultez l’onglet API à la section Interrogation d’une base de connaissances et génération de réponses basées sur les données récupérées.

Suivez les étapes de la console aux sections Interrogation d’une base de connaissances et extraction des données ou Interrogation d’une base de connaissances et génération de réponses basées sur les données récupérées. Lorsque vous ouvrez le volet Configurations, vous verrez une section Filtres. Les procédures suivantes décrivent différents cas d’utilisation :

L’image suivante montre un exemple de configuration de filtre qui renvoie tous les documents écrits après 2018 dont le genre est "entertainment", en plus des documents dont le genre est "cooking" ou "sports" et dont l’auteur commence par "C".

Lorsque vous faites une demande Retrieve ou RetrieveAndGenerate, incluez un champ retrievalConfiguration, mappé à un objet KnowledgeBaseRetrievalConfiguration. Pour connaître l’emplacement de ce champ, reportez-vous aux corps de demande Retrieve et RetrieveAndGenerate dans la Référence des API.

Les objets JSON suivants indiquent le nombre minimum de champs requis dans l’objet KnowledgeBaseRetrievalConfiguration pour définir des filtres pour différents cas d’utilisation :

Le tableau suivant décrit les types de filtre que vous pouvez utiliser :

Pour combiner les types de filtre, vous pouvez utiliser l’un des opérateurs logiques suivants :

Pour voir des exemples, consultez Envoyer une requête et inclure des filtres (Retrieve) et Envoyer une requête et inclure des filtres (RetrieveAndGenerate).

Suivez les étapes de la console aux sections Interrogation d’une base de connaissances et extraction des données ou Interrogation d’une base de connaissances et génération de réponses basées sur les données récupérées. Dans la fenêtre de test, activez Générer des réponses. Ensuite, dans le volet Configurations, développez la section Barrières de protection.

Lorsque vous faites une demande RetrieveAndGenerate, incluez le champ guardrailConfiguration dans generationConfiguration pour utiliser votre barrière de protection avec la demande. Pour connaître l’emplacement de ce champ, reportez-vous au corps de demande RetrieveAndGenerate dans la Référence des API.

L’objet JSON suivant indique les champs minimaux requis dans GenerationConfiguration pour définir guardrailConfiguration :

"generationConfiguration": {
    "guardrailConfiguration": {
        "guardrailId": "string",
        "guardrailVersion": "string"
    }
}

Spécifiez les valeurs guardrailId et guardrailVersion des barrières de protection que vous avez choisies.

POST /retrieveAndGenerate HTTP/1.1
Content-type: application/json
{
   "input": {
      "text": "string"
   },
   "retrieveAndGenerateConfiguration": {
      "knowledgeBaseConfiguration": {
         "orchestrationConfiguration": { // Query decomposition
           "queryTransformationConfiguration": {
                "type": "string" // enum of QUERY_DECOMPOSITION
           }
         },
...}
}
     

Pour modifier les paramètres d’inférence lorsque vous interrogez une base de connaissances, suivez les étapes de la console aux sections Interrogation d’une base de connaissances et extraction des données ou Interrogation d’une base de connaissances et génération de réponses basées sur les données récupérées. Lorsque vous ouvrez le volet Configurations, vous verrez une section Paramètres d’inférence. Modifiez les paramètres selon vos besoins.

Pour modifier les paramètres d’inférence lorsque vous discutez avec votre document, suivez les étapes décrites dans Discussion avec votre document sans configuration de base de connaissances. Dans le volet Configurations, développez la section Paramètres d’inférence et modifiez les paramètres si nécessaire.

Vous fournissez les paramètres du modèle lors de l’appel de l’API RetrieveAndGenerate. Vous pouvez personnaliser le modèle en fournissant des paramètres d’inférence dans le champ inferenceConfig de knowledgeBaseConfiguration (si vous interrogez une base de connaissances) ou de externalSourcesConfiguration (si vous discutez avec votre document).

Le champ inferenceConfig contient un champ textInferenceConfig qui contient les paramètres suivants que vous pouvez :

Vous pouvez personnaliser le modèle en utilisant les paramètres suivants dans le champ inferenceConfig de externalSourcesConfiguration et knowledgeBaseConfiguration :

Pour une explication détaillée de la fonction de chacun de ces paramètres, consultez Génération de réponse d’influence à l’aide de paramètres d’inférence.

En outre, vous pouvez fournir des paramètres personnalisés qui ne sont pas pris en charge par textInferenceConfig via la carte additionalModelRequestFields. Vous pouvez fournir des paramètres uniques à des modèles spécifiques avec cet argument. Pour les paramètres uniques, consultez Paramètres de demande d’inférence et champs de réponse pour les modèles de fondation.

Si un paramètre est omis de textInferenceConfig, une valeur par défaut sera utilisée. Tout paramètre non reconnu dans textInferneceConfig sera ignoré, tandis que tout paramètre non reconnu dans AdditionalModelRequestFields provoquera une exception.

Une exception de validation est émise s’il existe le même paramètre dans à la fois additionalModelRequestFields et TextInferenceConfig.

Utilisation des paramètres du modèle dans RetrieveAndGenerate

Voici un exemple de structure pour inferenceConfig et additionalModelRequestFields sous generationConfiguration dans le corps de demande RetrieveAndGenerate :

"inferenceConfig": {
    "textInferenceConfig": {
        "temperature": 0.5,  
        "topP": 0.5,
        "maxTokens": 2048,
        "stopSequences": ["\nObservation"]
    }
},
"additionalModelRequestFields": {
    "top_k": 50
}

L’exemple suivant définit une valeur temperature de 0,5, top_p de 0,5 ou maxTokens de 2 048, arrête la génération s’il rencontre la chaîne « \nObservation » dans la réponse générée et transmet une valeur top_k personnalisée de 50.

Suivez les étapes de la console aux sections Interrogation d’une base de connaissances et extraction des données ou Interrogation d’une base de connaissances et génération de réponses basées sur les données récupérées. Dans la fenêtre de test, activez Générer des réponses. Ensuite, dans le volet Configurations, développez la section modèle d’invite de la base de connaissances.

Lorsque vous faites une demande RetrieveAndGenerate, incluez un champ generationConfiguration mappé à un objet GenerationConfiguration. Pour connaître l’emplacement de ce champ, reportez-vous au corps de demande RetrieveAndGenerate dans la Référence des API.

L’objet JSON suivant indique les champs minimaux requis dans l’objet GenerationConfiguration pour définir le nombre maximum de résultats extraits à renvoyer :

"generationConfiguration": {
    "promptTemplate": {
        "textPromptTemplate": "string"
    }
}

Entrez votre modèle d’invite personnalisé dans le champ textPromptTemplate, y compris les espaces réservés aux invites et les balises XML si nécessaire. Pour connaître le nombre maximum de caractères autorisés dans l’invite du système, consultez le champ textPromptTemplate dans GenerationConfiguration.