Utilice su barandilla con operaciones de inferencia para evaluar las entradas de los usuarios

Puede utilizar barandillas con las operaciones de inferencia básicas InvokeModely InvokeModelWithResponseStream(transmisión). En esta sección, se explica cómo evaluar las entradas de los usuarios de forma selectiva y cómo configurar el comportamiento de respuesta de la transmisión. Tenga en cuenta que, en el caso de las aplicaciones conversacionales, puede obtener los mismos resultados con la API. Converse

Para ver un código de ejemplo que llama a las operaciones de inferencia básicas, consulte Envíe un único mensaje con InvokeModel. Para obtener más información sobre el uso de una barrera de protección con las operaciones de inferencia básicas, siga los pasos de la pestaña API de Pon a prueba tu barandilla.