Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Erstellen von Inferenzen auf Ihrem Gerät
In diesem Beispiel verwenden Sie Boto3, um die Ausgabe Ihres Kompilierungsjobs auf Ihr Edge-Gerät herunterzuladen. Anschließend importieren Sie DLR, laden Beispielbilder aus dem Datensatz herunter, passen die Größe dieses Bildes an die ursprüngliche Eingabe des Modells an und treffen dann eine Vorhersage.
-
Laden Sie Ihr kompiliertes Modell von Amazon S3 auf Ihr Gerät herunter und extrahieren Sie es aus der komprimierten TAR-Datei.
# Download compiled model locally to edge device object_path = f'output/{model_name}-{target_device}.tar.gz' neo_compiled_model = f'compiled-{model_name}.tar.gz' s3_client.download_file(bucket_name, object_path, neo_compiled_model) # Extract model from .tar.gz so DLR can use it !mkdir ./dlr_model # make a directory to store your model (optional) !tar -xzvf ./compiled-detect.tar.gz --directory ./dlr_model -
Importieren Sie DLR und ein initialisiertes
DLRModel-Objekt.import dlr device = 'cpu' model = dlr.DLRModel('./dlr_model', device) -
Laden Sie ein Bild für die Inferenz herunter und formatieren Sie es entsprechend der Art und Weise, wie Ihr Modell trainiert wurde.
In diesem
coco_ssd_mobilenetBeispiel können Sie ein Bild aus dem COCO-Datensatzherunterladen und das Bild zu 300x300umstellen:from PIL import Image # Download an image for model to make a prediction input_image_filename = './input_image.jpg' !curl https://farm9.staticflickr.com/8325/8077197378_79efb4805e_z.jpg --output {input_image_filename} # Format image so model can make predictions resized_image = image.resize((300, 300)) # Model is quantized, so convert the image to uint8 x = np.array(resized_image).astype('uint8') -
Verwenden Sie DLR, um Rückschlüsse zu ziehen.
Schließlich können Sie DLR verwenden, um eine Vorhersage für das Bild zu treffen, das Sie gerade heruntergeladen haben:
out = model.run(x)
