View a markdown version of this page

Online-Geschäft - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Online-Geschäft

Der Online-Speicher ist ein Datenspeicher mit niedriger Latenz und hoher Verfügbarkeit, der die Suche nach Funktionen in Echtzeit ermöglicht. Es wird in der Regel für die Modellbereitstellung von Machine Learning (ML) verwendet. Wenn Sie eine Feature-Gruppe erstellen, wählen Sie einen Onlineshop-Typ aus: den Standard-Onlineshop (Standard), den Standard-Online-Shop V2 (Standard_V2) oder einen Online-Shop mit In-Memory-Stufe (InMemory). Auf diese Weise können Sie den Speichertyp auswählen, der den Lese- und Schreibmustern für eine bestimmte Anwendung am besten entspricht und gleichzeitig Leistung und Kosten berücksichtigen. Weitere Informationen zur Preisgestaltung finden Sie unter SageMaker Amazon-Preise.

Der Online-Speicher enthält die folgenden StorageType Optionen. Weitere Informationen zu den Inhalten des Online-Speichers finden Sie unter OnlineStoreConfig.

Speichertyp der Standardstufe

Bei der Standard Stufe handelt es sich um einen verwalteten Datenspeicher mit niedriger Latenz für Onlineshop-Funktionsgruppen. Er ermöglicht einen schnellen Datenabruf für den ML-Modell-Service für Ihre Anwendungen. Standard ist der Standardspeichertyp.

Standard-Speichertyp der Stufe V2

Bei der Standard_V2 Stufe handelt es sich um einen verwalteten Datenspeicher mit niedriger Latenz für Onlineshop-Featuregruppen, der partielle Aktualisierungen einzelner Funktionen mithilfe dieses UpdateRecord Vorgangs unterstützt. Im Gegensatz zur Standard Ebene Standard_V2 können Sie hier bestimmte Feature-Werte in einem Datensatz aktualisieren, ohne den gesamten Datensatz neu schreiben zu müssen.

Dadurch ergeben sich mehrere Vorteile für Feature-Gruppen, die sich häufig ändern:

  • Funktionen in einem einzigen Aufruf aktualisieren — Überspringen Sie das Lesen-Ändern-Schreiben-Muster. Rufen Sie nur UpdateRecord mit den Funktionen auf, die Sie ändern möchten, und Feature Store behält den Rest bei.

  • Niedrigere Schreibkosten und Latenz für Updates auf Funktionsebene — Schreiben Sie nur die Funktionen, die sich geändert haben, und nicht den vollständigen Datensatz. Bei umfangreichen Datensätzen, bei denen nur wenige Funktionen häufig aktualisiert werden (z. B. wenn geradeclick_count), last_login wird auf diese Weise vermieden, dass unveränderte Daten gesendet und neu geschrieben werden.

  • Sichere gleichzeitige Aktualisierungen — Verwenden Sie die Funktion jedes Updates, um Schreibvorgänge zu erkennen und abzulehnen, die nicht in EventTime der richtigen Reihenfolge sind, sodass ein langsames oder veraltetes Update neuere Feature-Werte nicht überschreiben kann.

Wählen Sie Standard_V2 bei der Erstellung der Feature-Gruppe aus, wann Ihr Workload bestimmte Funktionen häufig aktualisiert und Sie effiziente, partielle Schreibvorgänge wünschen. Um eine neue Standard_V2 Feature-Gruppe zu erstellen, rufen Sie sie auf CreateFeatureGroup und setzen Sie die StorageType OnlineStoreConfig Option aufStandard_V2.

Migrieren Sie eine Standard-Feature-Gruppe zu Standard V2

Haben Sie bereits eine Standard Funktionsgruppe? Sie können sie direkt auf Standard V2 migrieren, ohne die Feature-Gruppe neu zu erstellen oder Ihre Daten erneut zu verarbeiten. Um zu migrieren, rufen Sie den UpdateFeatureGroup Vorgang wie folgt auf:

  • Geben Sie FeatureGroupName den Namen oder den Amazon-Ressourcennamen (ARN) der Feature-Gruppe ein, die Sie migrieren möchten.

  • Stellen Sie im OnlineStoreConfig Objekt das StorageType auf einStandard_V2.

Im folgenden AWS Command Line Interface Beispiel wird eine Feature-Gruppe mit dem Namen my-feature-group Standard V2 migriert:

aws sagemaker update-feature-group \ --feature-group-name my-feature-group \ --online-store-config '{"StorageType": "Standard_V2"}'

Nach Abschluss der Migration dauert es mehrere Minuten, bis der UpdateRecord Vorgang für die Featuregruppe verfügbar ist. Sobald es aktiviert ist, können Sie es verwenden, UpdateRecord um einzelne Funktionen in den Datensätzen der Feature-Gruppe zu aktualisieren.

Wichtig

Die Migration von Standard Standard V2 ist ein unidirektionaler Vorgang und kann nicht rückgängig gemacht werden.

In-memory Tier-Speichertyp

Bei der InMemory Stufe handelt es sich um einen verwalteten Datenspeicher für Onlineshop-Funktionsgruppen, der den Abruf mit sehr geringer Latenz unterstützt. Es ermöglicht den umfassenden Datenabruf in Echtzeit für ML-Modellserver, die für Anwendungen mit hohem Durchsatz verwendet werden. Die InMemory Stufe wird von Amazon ElastiCache (Redis OSS) betrieben. Weitere Informationen finden Sie unter Was ist Amazon ElastiCache (Redis OSS)? .

Die InMemory Onlineshop-Stufe unterstützt die Sammlungstypen „Liste“, „Set“ und „Vector“. Weitere Informationen zu InMemory-Sammlungstypen finden Sie unter Sammlungstypen.

Feature Store bietet Lese- und Schreibvorgänge im Onlineshop mit geringer Latenz. Die Anwendungslatenz besteht hauptsächlich aus zwei Hauptkomponenten: Infrastruktur- oder Netzwerklatenz und Feature Store-API-Latenz. Die Reduzierung der Netzwerklatenz trägt dazu bei, die niedrigste Latenz für Lese- und Schreibvorgänge im Feature Store zu erzielen. Sie können die Netzwerklatenz für Feature Store reduzieren, indem Sie die Bereitstellung AWS PrivateLink auf dem Feature Store Runtime-Endpunkt durchführen. Mit AWS PrivateLink können Sie mithilfe von Schnittstellen-VPC-Endpunkten auf skalierbare Weise privat auf alle Feature Store Runtime-API-Operationen von Ihrer Amazon Virtual Private Cloud (VPC) aus zugreifen. Eine AWS PrivateLink Bereitstellung, bei der die privateDNSEnabled Option auf „true“ gesetzt ist:

  • Dadurch bleibt der gesamte Feature read/write Store-Verkehr in Ihrer VPC.

  • Es hält den Datenverkehr in derselben AZ wie der Client, von dem er bei der Verwendung von Feature Store ausgegangen ist. Dadurch werden die „Sprünge“ zwischen AZs vermieden, wodurch die Netzwerklatenz reduziert wird.

Folgen Sie den Schritten unter Zugriff auf einen AWS Dienst mithilfe eines VPC-Schnittstellen-Endpunkts, um den Feature AWS PrivateLink Store einzurichten. Der Dienstname für Feature Store Runtime in AWS PrivateLink lautetcom.amazonaws.region.sagemaker.featurestore-runtime.

Der Online-Speicher mit InMemory-Ebene wird automatisch auf der Grundlage der Speichernutzung und der Anforderungen skaliert. Die automatische Skalierung kann einige Minuten dauern, bis sie sich an ein neues Nutzungsmuster anpasst, wenn es sich schnell ändert. Während der automatisierten Skalierung:

  • Bei Schreibvorgängen in die Featuregruppe kann es zu Drosselungsfehlern kommen. Sie sollten Ihre Anfragen einige Minuten später erneut versuchen.

  • Bei Lesevorgängen für die Featuregruppe kann es zu Drosselungsfehlern kommen. Standardstrategien für Wiederholungen sind in diesem Fall geeignet.

  • Bei Lesevorgängen kann es zu einer erhöhten Latenz kommen.

Die Standardgröße für InMemory Tier-Feature-Gruppen beträgt 50 GiB.

Beachten Sie, dass die InMemory Stufe derzeit nur Online-Featuregruppen unterstützt, keine Online- und Offline-Featuregruppen, sodass für diese Stufe keine Replikation zwischen Online- und Offline-Speichers stattfindet InMemory. Außerdem unterstützt diese InMemory Stufe derzeit keine vom Kunden verwalteten KMS-Schlüssel.