Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Verwenden Sie Ihre Leitplanke mit Inferenzoperationen, um Benutzereingaben auszuwerten
Sie können Guardrails mit den Basisinferenzoperationen und (Streaming) verwenden. InvokeModelInvokeModelWithResponseStream In diesem Abschnitt wird beschrieben, wie Sie Benutzereingaben selektiv auswerten und wie Sie das Verhalten von Streaming-Antworten konfigurieren können. Beachten Sie, dass Sie bei Konversationsanwendungen dieselben Ergebnisse mit der Converse API erzielen können.
Beispielcode, der die Basisinferenzoperationen aufruft, finden Sie unter. Senden Sie eine einzelne Aufforderung mit InvokeModel Informationen zur Verwendung einer Leitplanke mit den Basisinferenzoperationen finden Sie auf der Registerkarte API von. Testen Sie Ihre Leitplanke
Themen
