Testinferenz - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Testinferenz

Auf der Registerkarte Testinferenz können Sie eine Testinferenzanforderung an ein bereitgestelltes Modell senden. Dies ist nützlich, wenn Sie überprüfen möchten, ob Ihr Endpunkt wie erwartet auf Anfragen reagiert.

Führen Sie für die Testinferenz folgende Schritte aus:

  1. Wählen Sie auf der Registerkarte Testinferenz des Modells eine der folgenden Optionen aus:

    1. Wählen Sie Anforderungstext eingeben aus, wenn Sie den Endpunkt testen und eine Antwort über die Studio-Oberfläche erhalten möchten.

    2. Wählen Sie Beispielcode kopieren (Python) aus, wenn Sie ein AWS SDK für Python (Boto3)-Beispiel kopieren möchten, mit dem Sie Ihren Endpunkt aus einer lokalen Umgebung aufrufen und programmgesteuert eine Antwort erhalten können.

  2. Wählen Sie unter Modell das Modell aus, das Sie auf dem Endpunkt testen möchten.

  3. Wenn Sie sich für die Testmethode der Studio-Benutzeroberfläche entschieden haben, können Sie auch den gewünschten Inhaltstyp für die Antwort aus dem Dropdown-Menü auswählen.

Nachdem Sie Ihre Anforderung konfiguriert haben, können Sie entweder Anfrage senden (um eine Antwort über die Studio-Oberfläche zu erhalten) oder Kopieren wählen, um das Python-Beispiel zu kopieren.

Wenn Sie eine Antwort über die Studio-Oberfläche erhalten, sieht sie wie im folgenden Screenshot aus.

Screenshot einer erfolgreichen Inferenztestanforderung auf einem Endpunkt in Studio