Utilisation d’un outil pour compléter une réponse au modèle Amazon Bedrock

Vous pouvez utiliser l’API Amazon Bedrock pour permettre à un modèle d’accéder à des outils qui peuvent l’aider à générer des réponses aux messages que vous lui envoyez. Par exemple, vous pouvez avoir une application de chat qui permet aux utilisateurs de trouver la chanson la plus populaire diffusée sur une station de radio. Pour répondre à une demande concernant la chanson la plus populaire, un modèle a besoin d’un outil capable d’interroger et de renvoyer les informations relatives à la chanson.

Dans Amazon Bedrock, le modèle n’appelle pas directement l’outil. Au contraire, lorsque vous envoyez un message à un modèle, vous fournissez également une définition pour un ou plusieurs outils susceptibles d’aider le modèle à générer une réponse. Dans cet exemple, vous devez fournir la définition d’un outil qui renvoie le titre le plus populaire pour une station de radio donnée. Si le modèle détermine qu’il a besoin de l’outil pour générer une réponse au message, il vous demande d’appeler l’outil. Il comprend également les paramètres d’entrée (la station de radio requise) à transmettre à l’outil.

Dans votre code, vous appelez l’outil au nom du modèle. Dans ce scénario, supposons que la mise en œuvre de l’outil soit une API. L’outil pourrait tout aussi bien être une base de données, une fonction Lambda ou un autre logiciel. Vous décidez de la manière dont vous souhaitez mettre en œuvre l’outil. Vous poursuivez ensuite la conversation avec le modèle en fournissant un message contenant le résultat de l’outil. Enfin, le modèle génère une réponse au message d’origine qui inclut les résultats de l’outil que vous avez envoyés au modèle.

Pour utiliser des outils avec un modèle, vous pouvez utiliser l’API Converse (Converse ou ConverseStream). L’exemple de code présenté dans cette rubrique utilise l’API Converse pour montrer comment utiliser un outil qui permet d’obtenir la chanson la plus populaire pour une station de radio. Pour obtenir des informations générales sur l’appel de l’API Converse, consultez Mener une conversation avec les opérations d’API Converse.

Il est possible d’utiliser des outils avec les opérations d’inférence de base (InvokeModel ou InvokeModelWithResponseStream). Pour trouver les paramètres d’inférence que vous transmettez dans le corps de la demande, consultez les paramètres d’inférence du modèle que vous souhaitez utiliser. Nous vous recommandons d’utiliser l’API Converse, car elle fournit une API cohérente, qui fonctionne avec tous les modèles Amazon Bedrock qui prennent en charge l’utilisation d’outils.

Pour plus d’informations sur les modèles qui prennent en charge l’appel d’outils, consultez Modèles et fonctionnalités des modèles pris en charge.