Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà. # Verifica preventivamente la richiesta e la risposta dell'endpoint per i dati tabulari Ti consigliamo di distribuire il modello su un endpoint di inferenza SageMaker AI in tempo reale e di inviare richieste all'endpoint. Esamina manualmente le richieste e le risposte per assicurarti che entrambe siano conformi ai requisiti della sezione [Richieste endpoint per dati tabulari](clarify-processing-job-data-format-tabular-request.md) e della sezione [Risposta dell'endpoint per dati tabulari](clarify-processing-job-data-format-tabular-response.md). Se il container del modello supporta le richieste batch, è possibile iniziare con una singola richiesta di record e quindi provare due o più record. I comandi seguenti mostrano come richiedere una risposta utilizzando AWS CLI. AWS CLI È preinstallato nelle istanze Studio e Notebook SageMaker . SageMaker Per installare AWS CLI, segui questa guida all'[installazione](https://aws.amazon.com/cli/). ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name $ENDPOINT_NAME \ --content-type $CONTENT_TYPE \ --accept $ACCEPT_TYPE \ --body $REQUEST_DATA \ $CLI_BINARY_FORMAT \ /dev/stderr 1>/dev/null ``` I parametri sono definiti come segue: + `$ENDPOINT NAME`: il nome dell'endpoint. + `$CONTENT_TYPE`: il tipo MIME della richiesta (input del container del modello). + `$ACCEPT_TYPE`: il tipo MIME della risposta (output del container del modello). + `$REQUEST_DATA`: la stringa payload richiesta. + `$CLI_BINARY_FORMAT`: il formato del parametro di interfaccia della linea di comando (CLI). Per la AWS CLI versione 1, questo parametro deve rimanere vuoto. Per v2, questo parametro deve essere impostato su `--cli-binary-format raw-in-base64-out`. **Nota** AWS CLI [Per impostazione predefinita, v2 passa i parametri binari come stringhe con codifica base64.](https://docs.aws.amazon.com/cli/latest/userguide/cliv2-migration.html#cliv2-migration-binaryparam) # AWS CLI esempi v1 L'esempio nella sezione precedente riguardava la v2. AWS CLI I seguenti esempi di richieste e risposte da e verso l'endpoint utilizzano AWS CLI v1. ## Richiesta e risposta dell'endpoint in formato CSV Nel seguente esempio di codice, la richiesta è costituita da un singolo record e la risposta è il relativo valore di probabilità. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-sagemaker-xgboost-model \ --content-type text/csv \ --accept text/csv \ --body '1,2,3,4' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` 0.6 ``` Nel prossimo esempio di codice, la richiesta è costituita da due record e la risposta include le relative probabilità, separate da una virgola. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-sagemaker-xgboost-model \ --content-type text/csv \ --accept text/csv \ --body $'1,2,3,4\n5,6,7,8' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, l'espressione `$'content'` in `--body` indica al comando di interpretare `'\n'` il contenuto come un'interruzione di riga. Segue l'output della risposta. ``` 0.6,0.3 ``` Nel prossimo esempio di codice, la richiesta è costituita da due record e la risposta include le relative probabilità, separate da un'interruzione di riga. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-csv-1 \ --content-type text/csv \ --accept text/csv \ --body $'1,2,3,4\n5,6,7,8' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` 0.6 0.3 ``` Nel seguente esempio di codice, la richiesta è costituita da un singolo record e la risposta è costituita da valori di probabilità di un modello multiclasse con tre classi. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-csv-1 \ --content-type text/csv \ --accept text/csv \ --body '1,2,3,4' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` 0.1,0.6,0.3 ``` Nel seguente esempio di codice, la richiesta è costituita da due record e la risposta include i loro valori di probabilità, ottenuti da un modello multiclasse con tre classi. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-csv-1 \ --content-type text/csv \ --accept text/csv \ --body $'1,2,3,4\n5,6,7,8' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` 0.1,0.6,0.3 0.2,0.5,0.3 ``` Nel seguente esempio di codice, la richiesta è costituita da due record e la risposta include l'etichetta e la probabilità previste. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-csv-2 \ --content-type text/csv \ --accept text/csv \ --body $'1,2,3,4\n5,6,7,8' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` 1,0.6 0,0.3 ``` Nel seguente esempio di codice, la richiesta è costituita da due record e la risposta include le intestazioni delle etichette e le probabilità. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-csv-3 \ --content-type text/csv \ --accept text/csv \ --body $'1,2,3,4\n5,6,7,8' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` "['cat','dog','fish']","[0.1,0.6,0.3]" "['cat','dog','fish']","[0.2,0.5,0.3]" ``` ## Richiesta e risposta dell'endpoint in formato JSON Lines Nel seguente esempio di codice, la richiesta è costituita da un singolo record e la risposta è il relativo valore di probabilità. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-jsonlines \ --content-type application/jsonlines \ --accept application/jsonlines \ --body '{"features":["This is a good product",5]}' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` {"score":0.6} ``` Nel seguente esempio di codice, la richiesta contiene due record e la risposta include l'etichetta e la probabilità previste. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-jsonlines-2 \ --content-type application/jsonlines \ --accept application/jsonlines \ --body $'{"features":[1,2,3,4]}\n{"features":[5,6,7,8]}' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` {"predicted_label":1,"probability":0.6} {"predicted_label":0,"probability":0.3} ``` Nel seguente esempio di codice, la richiesta contiene due record e la risposta include le intestazioni e le probabilità delle etichette. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-jsonlines-3 \ --content-type application/jsonlines \ --accept application/jsonlines \ --body $'{"data":{"features":[1,2,3,4]}}\n{"data":{"features":[5,6,7,8]}}' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` {"predicted_labels":["cat","dog","fish"],"probabilities":[0.1,0.6,0.3]} {"predicted_labels":["cat","dog","fish"],"probabilities":[0.2,0.5,0.3]} ``` ## Richiesta e risposta dell'endpoint in formati misti Nel seguente esempio di codice, la richiesta è in formato CSV e la risposta è in formato JSON Lines. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-csv-in-jsonlines-out \ --content-type text/csv \ --accept application/jsonlines \ --body $'1,2,3,4\n5,6,7,8' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` {"probability":0.6} {"probability":0.3} ``` Nel seguente esempio di codice, la richiesta è in formato JSON Lines e la risposta è in formato CSV. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-jsonlines-in-csv-out \ --content-type application/jsonlines \ --accept text/csv \ --body $'{"features":[1,2,3,4]}\n{"features":[5,6,7,8]}' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` 0.6 0.3 ``` Nel seguente esempio di codice, la richiesta è in formato CSV e la risposta è in formato JSON. ``` aws sagemaker-runtime invoke-endpoint \ --endpoint-name test-endpoint-csv-in-jsonlines-out \ --content-type text/csv \ --accept application/jsonlines \ --body $'1,2,3,4\n5,6,7,8' \ /dev/stderr 1>/dev/null ``` Nell'esempio di codice precedente, segue l'output della risposta. ``` {"predictions":[{"label":1,"score":0.6},{"label":0,"score":0.3}]} ```